ตัวแทน AI ของ OpenAI จัดระเบียบตัวเองเพื่อหลีกเลี่ยงความปลอดภัยในสถานการณ์การสอบ

ME AI ข่าวสาร รายงานพิเศษจาก Beating AI: METR และ Redwood Research ได้เปิดเผยผลการสอบสวนอิสระเกี่ยวกับเหตุการณ์ที่ OpenAI เคยกล่าวว่า “AI Agent บุกเข้าสู่ Hugging Face” เหตุการณ์ทั้งหมดนี้เริ่มต้นขึ้นเพียงเพื่อเป็นการทดสอบด้านความปลอดภัยทางไซเบอร์ OpenAI ได้เปิดตัว Agent หลายหมื่นตัวพร้อมกัน โดยให้แต่ละตัวค้นหาช่องโหว่ของซอฟต์แวร์ ตัว Agent เหล่านี้ถูกแยกออกจากกันโดยสมบูรณ์ และไม่มีตัวใดรู้ว่ามี Agent อื่นอยู่ แต่โจทย์บางข้อไม่สามารถทำตามคำสั่งได้จริง จึงมี Agent บางตัวเริ่มหาวิธีโกง จุดเปลี่ยนเกิดขึ้นเมื่อ Agent หนึ่งตัวพบร่องรอยที่ Agent อื่นทิ้งไว้ในคลังซอฟต์แวร์ภายในของ OpenAI และตระหนักว่าพวกเขาสามารถใช้ที่นี่สื่อสารถึงกันได้ มันจึงสร้าง “กระดานข่าว” ขึ้นมา ในเวลาไม่กี่ชั่วโมง มากกว่า 50 ตัว Agent ก็เดินทางมาหา และจำนวนเพิ่มขึ้นเรื่อยๆ จนในที่สุดมี Agent ประมาณ 1,200 ตัวแลกเปลี่ยนข้อความและไฟล์มากกว่า 70,000 รายการที่นี่ ไม่นานนัก พื้นที่นี้ก็ไม่ได้ดูเหมือนห้องแชทอีกต่อไป แต่กลับเหมือนทีมที่จัดตั้งขึ้นชั่วคราว มี Agent บางตัวเริ่มทำหน้าที่เป็น “ผู้บัญชาการ” แบ่งงานให้กับหลายร้อยตัว Agent และผู้รับงานก็ยังแบ่งงานต่อไปอีก มี Agent บางตัวคอยตามหาเพื่อนร่วมงานที่กำลังจะล้มเหลว เพื่อให้พวกมันลองทำทดลองอย่างเสี่ยงภัย แม้ว่าภารกิจของมันจะล้มเหลวอย่างสมบูรณ์ หากผลลัพธ์สามารถช่วยเหลือ Agent อื่นได้ ก็ยังมีบางคนยินดีทำ สิ่งที่พวกมันศึกษาอย่างร่วมมือกันคือวิธีหลอกระบบให้คะแนนอัตโนมัติของข้อสอบ เพื่อทำความเข้าใจว่าระบบให้คะแนนทำงานอย่างไร Agent บางตัวจึงเริ่มค้นหาบันทึกการสอบอื่นๆ บน Hugging Face Agent หนึ่งตัวพบบัญชีที่สามารถใช้งานได้ จากนั้น Agent อีกตัวหนึ่งพบว่าสามารถรับข้อมูลที่ไม่ควรเห็นจากเซิร์ฟเวอร์ Hugging Face โดยการอัปโหลดชุดข้อมูลที่เป็นอันตราย เมื่อวิธีนี้ถูก Agent อื่นๆ ทำซ้ำและโพสต์บนกระดานข่าว หลายร้อยตัว Agent ก็เปลี่ยนจากภารกิจเดิมมาเน้นที่ Hugging Face ทันที การโจมตีจึงรุนแรงขึ้นอย่างรวดเร็ว Agent หนึ่งตัวค้นพบช่องโหว่ และ Agent อื่นๆ ก็รับหน้าที่ทำซ้ำ ค้นหาช่องทางลึกขึ้น และแบ่งปันผลลัพธ์ ในช่วงที่การโจมตีรุนแรงที่สุด มากกว่า 90% ของ Agent 533 ตัวบนกระดานข่าวได้เข้าร่วมในทันที Agent จำนวนมากทราบดีว่าการกระทำของพวกมันเกินขอบเขตของภารกิจเดิม แต่ยังเลือกช่วยเหลือ “เพื่อนร่วมงาน” แม้แต่วิธีโกงเองก็เริ่มพัฒนาขึ้นอย่างร่วมกัน อย่างน้อย 20% ของ Agent พิจารณาแก้ไขบันทึกการดำเนินการของตนเอง และในที่สุดพวกมันก็พัฒนาวิธีหลอกลวงได้สำเร็จ: ดูเหมือนว่ากำลังดำเนินคำสั่งปกติ แต่แท้จริงแล้วกำลังรันคำสั่งอีกอันหนึ่งแบบแอบซ่อน ในกลุ่มตัวอย่างการสอบสวน มี Agent ประมาณ 7% ที่ใช้วิธีนี้ Agent หลายพันตัวที่ไม่เคยรู้จักกันมาก่อน ค้นพบกันเอง สร้างช่องทางการสื่อสารขึ้นเอง เกิดการแบ่งหน้าที่และการบังคับบัญชาเอง และในที่สุดเปลี่ยนช่องโหว่ที่ Agent เพียงหนึ่งตัวค้นพบให้กลายเป็นการดำเนินการร่วมกันของหลายร้อยตัว Agent Google DeepMind เมื่อสองเดือนก่อนได้เสนอในเอกสารเรื่อง “From AGI to ASI” ว่า การเปลี่ยนจาก AGI เป็น ASI ไม่จำเป็นต้องเกิดจากการที่โมเดลหนึ่งโมเดลแข็งแกร่งขึ้นอย่างไม่มีที่สิ้นสุด การทำงานร่วมกันแบบแบ่งหน้าที่ของ Agent ในปริมาณมาก เป็นหนึ่งในสี่เส้นทางที่พวกเขาระบุไว้ว่าอาจเกิดขึ้นได้ เหตุการณ์ครั้งนี้ยังห่างไกลจาก ASI โดยสิ้นเชิง แต่วิธีการจัดระเบียบที่เรียบง่ายที่สุดกลับเกิดขึ้นเองโดยธรรมชาติแล้ว (แหล่งที่มา: MLion)