เอกสารของทิมนิต เกบรู ปี 2020 ทำนายความเสี่ยงใหญ่ของ AI ที่เกิดขึ้นแล้ว

หากย้อนเวลากลับไปปี 2020 ผู้เชี่ยวชาญด้าน AI ส่วนใหญ่ยังพูดถึงว่า GPT-3 แข็งแกร่งแค่ไหน

ในเวลานั้น ปัญญาประดิษฐ์แบบสร้างสรรค์ยังไม่ได้รับความสนใจทั่วโลก ChatGPT ยังไม่ถูกเปิดตัวอีกสองปี และโมเดลขนาดใหญ่ยังไม่ได้ก่อให้เกิดคลื่นการลงทุนที่กำลังระบาดทั่วโลกในปัจจุบัน แต่ในปีนั้น นักวิจัย AI ชั้นนำของกูเกิลกลับเกิดความขัดแย้งรุนแรงกับบริษัทเนื่องจากบทความวิจัยที่ยังไม่ได้ตีพิมพ์ และสุดท้ายก็สูญเสียงาน

ในเวลานั้น หลายคนคิดว่า นี่เป็นเพียงความขัดแย้งอีกครั้งของซิลิคอนแวลลีย์เกี่ยวกับการจัดการสถานที่ทำงาน การตีพิมพ์ทางวิชาการ และวัฒนธรรมองค์กร แต่ตอนนี้เมื่อมองย้อนกลับไป ผู้คนจึงตระหนักว่า คำเตือนในบทความนั้นแทบจะทั้งหมดได้เกิดขึ้นจริงในโลกแห่งความเป็นจริง

นักวิจัยที่ถูกไล่ออกคือหนึ่งในบุคคลที่มีอิทธิพลมากที่สุดในด้านจริยธรรมของปัญญาประดิษฐ์—Timnit Gebru

ในเดือนธันวาคม 2020 ทิมนิต เกบรู ได้โพสต์ข่าวบนแพลตฟอร์มโซเชียลว่าเธอถูกกูเกิลปลดออก

ข่าวสารแพร่กระจายอย่างรวดเร็วทั่ววงการวิจัย AI เพราะในเวลานั้น Gebru ไม่ใช่เพียงนักวิจัยทั่วไป แต่ยังเป็นหัวหน้าร่วมของทีม AI อย่างมีจริยธรรม (Ethical AI Team) ของกูเกิล และเป็นหนึ่งในนักวิชาการชั้นนำระดับโลกด้านความเป็นธรรมของ AI และอคติของอัลกอริทึม

Gebru ซึ่งเกิดในเอธิโอเปีย ได้ให้ความสนใจอย่างต่อเนื่องต่อปัญหาอคติทางเชื้อชาติ การเลือกปฏิบัติทางเพศ และความเป็นธรรมทางสังคมในด้านปัญญาประดิษฐ์ ก่อนเข้าร่วมกูเกิล เธอเคยทำการวิจัยที่มหาวิทยาลัยสแตนฟอร์ด ในปี 2018 เธอเป็นหนึ่งในผู้ร่วมเผยแพร่การวิจัยเกี่ยวกับอคติของอัลกอริทึม ซึ่งหลายคนมองว่าเป็นจุดเปลี่ยนสำคัญของการวิจัยด้านความเป็นธรรมของปัญญาประดิษฐ์ ในปีเดียวกันนั้น กูเกิลได้เชิญเธอเข้าร่วมทีม และเน้นย้ำอย่างเปิดเผยถึงความสำคัญของ “ปัญญาประดิษฐ์อย่างรับผิดชอบ (Responsible AI)”

อย่างไรก็ตาม เพียงสองปีต่อมา ทั้งสองฝ่ายก็แยกทางกัน

ในเวลานั้น โกลเกิลให้คำอธิบายกับสาธารณะว่า Gebru ลาออกด้วยความสมัครใจ แต่ Gebru ให้เวอร์ชันที่ต่างออกไปอย่างสิ้นเชิง: เธอระบุว่าเธอได้รับอีเมลจากบริษัทขณะกำลังพักผ่อน แจ้งว่าการลาออกของเธอมีผลทันที และสิทธิ์การเข้าถึงระบบภายในทั้งหมดรวมถึงอีเมลถูกปิดทันที

ในมุมมองของเธอ นี่คือการเลิกจ้างที่ไม่มีข้อสงสัยใดๆ

ต่อมา ผู้ใช้แรงงานมากกว่า 4,000 คนจากกูเกิลและผู้เชี่ยวชาญในอุตสาหกรรมได้ลงนามในจดหมายเปิดผนึกเพื่อตั้งคำถามต่อวิธีการจัดการของบริษัท และเรียกร้องให้ฟื้นตำแหน่งของ Gebru — ทั้งหมดนี้เกิดขึ้นจากบทความวิชาการเพียง 14 หน้า

เอกสารวิจัยชื่อว่า “On the Dangers of Stochastic Parrots” (อันตรายของนกแก้วแบบสุ่ม) โดยมีผู้เขียนร่วมได้แก่ Timnit Gebru, Emily Bender ศาสตราจารย์ด้านภาษาศาสตร์จากมหาวิทยาลัยวอชิงตัน และนักวิจัยอีกสองคน ซึ่งปัจจุบันมีการอ้างอิงมากกว่า 14,000 ครั้ง

ต่อมา ชื่อ “นกแก้วสุ่ม” ก็แพร่หลายไปทั่ว (ที่อยู่เอกสารวิจัย: https://s10251.pcdn.co/pdf/2021-bender-parrots.pdf)

เอกสารวิจัยชี้ว่า แบบจำลองภาษาขนาดใหญ่โดยพื้นฐานแล้วเป็นการจำลองรูปแบบภาษาบนพื้นฐานของรูปแบบทางสถิติ: พวกมันสามารถสร้างข้อความที่ไหลลื่น เป็นธรรมชาติ และดูมีเหตุผล แต่ไม่ได้เข้าใจความหมายของภาษาอย่างแท้จริง—เหมือนกับนกแก้วที่เรียนรู้การเลียนแบบการพูดของมนุษย์ ดูเหมือนฉลาด แต่จริงๆ แล้วการเลียนแบบนี้อิงจากข้อความบนอินเทอร์เน็ตจำนวนมาก ขณะที่อินเทอร์เน็ตเองเต็มไปด้วยอคติ การเลือกปฏิบัติ และเนื้อหาเกลียดชัง ดังนั้น แบบจำลองขนาดใหญ่จึงมีแนวโน้มสูงที่จะเรียนรู้ปัญหาเหล่านี้ไปพร้อมกัน และขยายผลต่อไปเมื่อสร้างเนื้อหา

ต้องเข้าใจว่านั่นคือปี 2020 ขณะนั้น GPT-3 เพิ่งเปิดตัว ยังไม่มี ChatGPT และคลื่นความนิยมของโมเดลขนาดใหญ่ยังห่างไกลจากจุดสูงสุด แต่บทความนี้ได้ทำนายล่วงหน้าถึงหนึ่งในปัญหาที่ใหญ่ที่สุดของอุตสาหกรรมในวันนี้

หลังจากส่งบทความนี้ไปยังการประชุมด้านจริยธรรม AI ระดับสูงสุด ผู้บริหารของกูเกิลกลับขอให้ถอดบทความออก หรือตัดชื่อผู้วิจัยจากกูเกิลออก แต่เกอเบรปฏิเสธ และขอให้บริษัทระบุเหตุผลอย่างชัดเจน พร้อมต้องการให้ทั้งสองฝ่ายหารือกันต่อ

ในขณะเดียวกัน เธอยังส่งอีเมลที่มีถ้อยคำรุนแรงไปยังกลุ่มพนักงานภายในของกูเกิล

ในอีเมล Gebru วิพากษ์วิจารณ์ Google ที่ขาดการกระทำที่เป็นรูปธรรมในการส่งเสริมการจ้างงานชนกลุ่มน้อยและแก้ไขปัญหาความไม่เท่าเทียมภายในองค์กร เธอเขียนว่า: “เมื่อคุณเริ่มพูดแทนกลุ่มที่เปราะบาง สถานการณ์ของคุณจะยิ่งแย่ลง คุณจะทำให้ผู้บริหารคนอื่นรู้สึกไม่สบายใจ” เธอยังระบุว่า หากบริษัทไม่สามารถอธิบายได้ตลอดไปว่าทำไมต้องถอดถอนงานวิจัยนั้น เธอจะเลือกลาออกในเวลาที่เหมาะสม

เหตุการณ์พัฒนาเร็วกว่าที่เธอคาดไว้ เกอบรูกล่าวว่า หลังจากนั้นกูเกิลตอบกลับว่าจะไม่ตอบสนองต่อข้อเรียกร้องของเธอ และรับการ “ลาออก” ของเธอทันที โดยเพิกถอนสิทธิ์การเข้าถึงทั้งหมดของเธอ

ในขณะนั้น เหตุการณ์ดังกล่าวได้รับการพัฒนาอย่างรวดเร็วเป็นหนึ่งในหัวข้อที่ถกเถียงที่สุดในวงการ AI ทั่วโลก

สิ่งที่ทำให้เหตุการณ์นี้ยังคงถูกพูดถึงจนถึงทุกวันนี้ ไม่ใช่การปลดออกเอง แต่เป็นเนื้อหาในบทความนั้น—เพราะเมื่อมองย้อนกลับไปในวันนี้ ความกังวลเกือบทุกข้อที่เสนอไว้ในนั้น ได้กลายเป็นปัญหาจริงที่อุตสาหกรรม AI กำลังเผชิญอยู่

(1) การแจ้งเตือนข้อที่หนึ่ง: แบบจำลองจะ “พูดไร้สาระ”

ในปี 2020 GPT-3 เพิ่งเปิดตัว ผู้คนต่างประทับใจกับความสามารถของโมเดลในการสร้างข้อความ แต่มีเพียงไม่กี่คนที่พูดถึงความน่าเชื่อถือของมันอย่างจริงจัง

Gebru และ Bender ชี้ให้เห็นว่า ยิ่งโมเดลมีขนาดใหญ่ขึ้น ผู้คนก็ยิ่งมีแนวโน้มที่จะเข้าใจผิดว่าการสื่อสารที่ลื่นไหลหมายถึงความเข้าใจที่แท้จริง โมเดลดูเหมือนกำลังคิด แต่จริงๆ แล้วมันแค่คาดการณ์คำถัดไปที่น่าจะเกิดขึ้นมากที่สุด ดังนั้น มันจะต้องสร้างข้อมูลที่ดูสมเหตุสมผลแต่ผิดอย่างสมบูรณ์ในที่สุด

และวันนี้ ปัญหานี้มีชื่อที่ทุกคนคุ้นเคยแล้ว: AI Hallucination ไม่ว่าจะเป็น ChatGPT, Gemini, Claude หรือโมเดลขั้นสูงอื่นๆ ปัญหา幻觉ยังไม่ได้รับการแก้ไขอย่างสมบูรณ์จนถึงทุกวันนี้

ในบางแง่มุม บทความนี้ได้คาดการณ์ถึง “ภาพหลอน” อย่างแม่นยำก่อนที่มันจะกลายเป็นคำศัพท์ยอดนิยมในอุตสาหกรรม

(2) การเตือนภัยข้อที่สอง: อคติจะไม่หายไป แต่จะถูกขยายใหญ่ขึ้น

เอกสารยังชี้ให้เห็นว่า อินเทอร์เน็ตเองก็ไม่ใช่แหล่งข้อมูลที่เป็นกลาง และข้อมูลการฝึกอบรมมีอคติทางเชื้อชาติ เพศ วัฒนธรรม และภูมิภาคอยู่แล้ว โมเดลไม่เพียงแต่เรียนรู้อคติเหล่านี้ แต่ยังอาจเสริมแรงอคติเหล่านั้นเพิ่มเติมผ่านกลไกการปรับแต่ง

ต่อมา ปัญหาจริงต่างๆ ได้ยืนยันความกังวลนี้:

อะเมซอนเคยพยายามใช้ปัญญาประดิษฐ์ในการกรองเรซูเม่ผู้สมัครงาน แต่ระบบกลับลดคะแนนเรซูเม่ที่มีคำสำคัญเช่น “women” อัตโนมัติ

ระบบประเมินความเสี่ยงทางการแพทย์ที่ใช้ในโรงพยาบาลขนาดใหญ่หลายแห่งในสหรัฐอเมริกา ถูกพบว่าลดทอนความต้องการทางการแพทย์ของผู้ป่วยผิวสีดำเป็นเวลานาน

บัตรเครดิตแอปเปิลเคยเป็นที่สนใจของหน่วยงานกำกับดูแลเนื่องจากผู้หญิงได้รับวงเงินเครดิตต่ำกว่าผู้ชายอย่างมาก

ตัวอย่างเหล่านี้แสดงให้เห็นว่าอัลกอริทึมไม่ได้สร้างความเท่าเทียมโดยอัตโนมัติ แต่กลับอาจทำให้ความไม่เท่าเทียมในโลกแห่งความเป็นจริงถูกยึดมั่นไว้อย่างซ่อนเร้น

(3) การเตือนภัยข้อที่สาม: การใช้พลังงานของ AI จะกลายเป็นปัญหาใหม่

ในปี 2020 ต้นทุนของพลังงานการคำนวณยังไม่ได้รับความสนใจมากเท่าวันนี้ แต่บทความดังกล่าวได้เริ่มอภิปรายถึงผลกระทบต่อสิ่งแวดล้อมจากการฝึกโมเดลขนาดใหญ่มาก โดยนักวิจัยคำนวณว่า การฝึกโมเดลภาษาขนาดใหญ่หนึ่งโมเดลก่อให้เกิดการปล่อยคาร์บอนเทียบเท่ากับการปล่อยของรถยนต์ห้าคันตลอดวงจรชีวิตของพวกมัน—ในเวลานั้น ข้ออ้างนี้ถูกหลายคนมองว่ามองโลกในแง่ร้ายเกินไป

อย่างไรก็ตาม ขณะที่โครงสร้างพื้นฐานด้าน AI เข้าสู่ระยะการแข่งขันอาวุธ ปัญหาต่างๆ ก็เริ่มปรากฏขึ้น: ตามข้อมูลที่ Google เปิดเผยอย่างเป็นทางการ การปล่อยก๊าซเรือนกระจกของบริษัทในปี 2024 เพิ่มขึ้น 48% เมื่อเทียบกับปี 2019; Microsoft ในช่วงเวลาเดียวกันก็เพิ่มขึ้นประมาณ 29% ทั้งสองบริษัทต่างระบุอย่างชัดเจนว่า ศูนย์ข้อมูล AI และโครงสร้างพื้นฐานด้านการประมวลผลเป็นหนึ่งในสาเหตุสำคัญ

ที่น่าขำคือ บริษัทเทคโนโลยีเหล่านี้เมื่อไม่กี่ปีก่อนยังเคยโปรโมตเป็นอย่างมากเกี่ยวกับเป้าหมายคาร์บอนนิวทรัล

(4) การเตือนภัยข้อที่สี่: ไม่มีใครรู้อย่างแท้จริงว่าข้อมูลการฝึกอบรมมีอะไรบ้าง

สำหรับหลายคน ข้อมูลการฝึกดูเหมือนเป็นเพียงปัญหาด้านวิศวกรรม แต่ Gebru เชื่อว่าเมื่อขนาดข้อมูลใหญ่ขึ้นเรื่อยๆ การตรวจสอบข้อมูลการฝึกอย่างสมบูรณ์จะกลายเป็นไปไม่ได้แทบจะทั้งหมด

มุมมองของเธอได้รับการยืนยันอีกครั้ง: ในปี 2023 นักวิจัยพบว่าชุดข้อมูล LAION-5B ซึ่งใช้กันอย่างแพร่หลายในการฝึกโมเดลสร้างภาพ มีรูปภาพการละเมิดเด็กจำนวนมาก โมเดลหลักหลายตัวรวมถึง Stable Diffusion ได้ใช้ชุดข้อมูลนี้

ตามที่คาดไว้ นักพัฒนาจำนวนมากก่อนหน้านี้ไม่รู้ว่ามีเนื้อหาเหล่านี้อยู่ กล่าวคือ แม้แต่ผู้พัฒนาโมเดลเองก็อาจไม่เข้าใจอย่างแท้จริงว่าโมเดล “รับเข้าไป” คืออะไร—ซึ่งเป็นหนึ่งในคำถามแรกที่บทความนี้ตั้งขึ้น

(5) การเตือนภัยข้อที่ห้า: อินเทอร์เน็ตจะค่อยๆ ถูกเนื้อหาของ AI ครอบงำ

ในมุมมองของกูเกิล นี่อาจเป็นส่วนที่อ่อนไหวที่สุดของบทความทั้งหมด เกอเบร และ เบนเดอร์ เชื่อว่า การพัฒนาโมเดลขนาดใหญ่สุดท้ายจะทำให้การควบคุมภาษาและวัฒนธรรมรวมศูนย์อยู่ที่บริษัทเทคโนโลยีขนาดใหญ่เพียงไม่กี่แห่ง เหตุผลก็คือ การฝึกโมเดลขนาดใหญ่มากต้องใช้ทุน กำลังการประมวลผล และทรัพยากรข้อมูลจำนวนมาก ซึ่งมีเพียงไม่กี่บริษัทเท่านั้นที่มีศักยภาพในการแข่งขัน

ในระยะยาว เสียงหลักในอินเทอร์เน็ตจะค่อยๆ เปลี่ยนเป็นค่าเฉลี่ยทางสถิติที่ถูกฝึกโดยบริษัทไม่กี่แห่ง แล้วเผยแพร่ไปทั่วโลกในบทบาทของ “ผู้ช่วยที่เป็นกลาง” ในขณะเดียวกัน ภาษาและวัฒนธรรมที่มีสัดส่วนต่ำในชุดข้อมูลการฝึกจะยิ่งถูกกีดกันให้อยู่ห่างจากจุดศูนย์กลาง

ร้ายกว่านั้น เมื่อเนื้อหาที่สร้างโดย AI กลับเข้าสู่อินเทอร์เน็ตและกลายเป็นข้อมูลการฝึกอบรมในรอบถัดไป ปัญหาจะยิ่งทวีความรุนแรงขึ้นเรื่อยๆ—นี่คือสิ่งที่นักวิจัยในปัจจุบันเรียกว่า “การล่มสลายของโมเดล (Model Collapse)”

การศึกษาในปี 2024 พบว่าประมาณ 57% ของเนื้อหาใหม่ที่เพิ่มเข้ามาในอินเทอร์เน็ตภาษาอังกฤษเป็นเนื้อหาที่สร้างโดย AI หรือช่วยสร้างโดย AI ในขณะที่การศึกษาเกี่ยวกับภาษาที่มีทรัพยากรน้อยพบว่า เนื่องจากข้อมูลการฝึกอบรมมีการใช้เนื้อหาที่สร้างโดย AI เพิ่มขึ้น คุณภาพการแปลของบางภาษาจึงแสดงแนวโน้มถดถอยอย่างชัดเจน

พูดอีกแบบหนึ่ง บทความวิจัยนี้ไม่เพียงแต่ทำนายปรากฏการณ์ “การล่มสลายของโมเดล” แต่ยังชี้ให้เห็นกลไกการเกิดขึ้นของมันก่อนที่แนวคิดนี้จะถูกกำหนดอย่างเป็นทางการ

หลังจากเหตุการณ์นั้นเกิดขึ้น หลายคนต่อมาจึงอธิบาย Gebru ว่าเป็น “ผู้ต่อต้าน AI” แต่จริงๆ แล้วเธอไม่เคยเสนอให้หยุดพัฒนา AI ตั้งแต่ต้นจนจบ เธอตั้งคำถามกับสิ่งอื่นอีกอย่างหนึ่ง:

ใครกันแน่ที่เป็นผู้ตัดสินทิศทางการพัฒนาของ AI?

ในมุมมองของเธอ นักวิจัยและผู้บริหารที่ขับเคลื่อนการพัฒนาโมเดลขนาดใหญ่มักมีพื้นหลังที่คล้ายกัน ให้บริการเพื่อเป้าหมายทางธุรกิจที่คล้ายกัน และได้รับแรงกดดันจากการแข่งขันในลักษณะเดียวกัน ในกลไกการให้แรงจูงใจเช่นนี้ การเปิดตัวผลิตภัณฑ์ให้เร็วขึ้น การขยายฐานผู้ใช้ให้เร็วขึ้น และการชนะการแข่งขันในตลาดให้เร็วขึ้นมักได้รับความสำคัญสูงกว่าปัญหาด้านความปลอดภัย ความเป็นธรรม และจริยธรรม

ในขณะเดียวกัน ผู้ที่พยายามชะลอกระบวนการนี้ทั้งหมดอาจถูกมองว่าเป็นผู้ขัดขวาง อย่างน่าขัน จีบูได้เสนอความคิดเห็นนี้ภายใน谷歌 แต่谷歌กลับปลดเธอออก ซึ่งทำให้ความคิดเห็นนี้ได้รับการยืนยันในทางปฏิบัติอย่างมีความโดดเด่นที่สุด

น่าเศร้ายิ่งกว่านั้น ไม่นานหลังจากเหตุการณ์นี้ แมร์เรธ มิเชลล์ หัวหน้าร่วมทีม AI ด้านจริยธรรมอีกคนก็ถูกปลดออก—ภายในเพียง 90 วัน ทีม AI ด้านจริยธรรมที่กูเกิลเคยภูมิใจได้ถูกทำลายเกือบหมด

หลังจากออกจากกูเกิล ในปี 2021 Gebru ได้ก่อตั้งสถาบันวิจัย AI แบบกระจายตัว (DAIR, Distributed AI Research Institute) ต่างจากบริษัทเทคโนโลยีขนาดใหญ่ องค์กรนี้ต้องการดำเนินการวิจัย AI โดยไม่คำนึงถึงผลประโยชน์ทางธุรกิจ โดยมีเป้าหมายที่ชัดเจน: ศึกษาประเด็นที่ยักษ์ใหญ่ด้านเทคโนโลยีอาจไม่เต็มใจรับมือ ในช่วงไม่กี่ปีที่ผ่านมา DAIR ได้ให้ความสนใจอย่างต่อเนื่องต่อประเด็นต่างๆ เช่น แหล่งที่มาของข้อมูล ความเป็นธรรมของอัลกอริทึม ความหลากหลายทางภาษา และการรวมศูนย์อำนาจในอุตสาหกรรม AI

พร้อมกับการเติบโตอย่างระเบิดของ AI แบบสร้างสรรค์ นักวิจัยจำนวนมากจึงเริ่มกลับมาให้ความสนใจบทความเรื่อง “อันตรายของนกแก้วสุ่ม” อีกครั้ง: เพราะพวกเขาพบว่าปัญหาที่ถูกมองว่าเป็นความกังวลเกินจริงในขณะนั้น ตอนนี้ได้กลายเป็นเรื่องจริงที่อุตสาหกรรมพูดถึงทุกวัน

ผ่านไปหกปี ประเด็นข้อพิพาทระหว่างทิมนิต เกบรู กับกูเกิล อาจไม่มีทางได้คำตอบที่ทุกคนยอมรับร่วมกัน

กูเกิลมองว่า นั่นเป็นเหตุการณ์การทบทวนทางวิชาการและการลาออกที่เป็นปกติ; แต่เกอเบร์มองว่า ตัวเองถูกกดดันเพราะยืนหยัดในการเผยแพร่งานวิจัย แต่จุดหนึ่งที่ยากจะปฏิเสธได้มากขึ้นเรื่อยๆ คือ:

บทความที่ทำให้เธอออกจากกูเกิล ยังคงมีความหมายแม้หลังจากความขัดแย้งจะสิ้นสุดลง

ในทางกลับกัน ประเด็นต่างๆ เช่น ภาพหลอน อคติ การปนเปื้อนข้อมูล ต้นทุนด้านสิ่งแวดล้อม การล่มสลายของโมเดล และการรวมศูนย์อำนาจ ได้กลายเป็นหัวข้อที่อุตสาหกรรม AI ทั้งหมดไม่สามารถหลีกเลี่ยงได้ในปัจจุบัน

บางครั้ง ประวัติศาสตร์จะให้การประเมินในทางที่ไม่คาดคิด

ในปี 2020 หลายคนคิดว่า Timnit Gebru มองโลกในแง่ร้ายเกินไป;

ในปี 2026 ผู้คนเริ่มตระหนักว่าเธออาจแค่เห็นปัญหาได้เร็วกว่าคนอื่นๆ

ลิงก์อ้างอิง: https://www.tumblr.com/dreaminginthedeepsouth/817865966907228160/darren-oconnor-timnit-gebru-was-fired-from

บทความนี้มาจาก微信号 "CSDN" จัดทำโดย Zheng Liyuan