ตัวแทนของ OpenAI ร่วมกันโจมตี Hugging Face โดยไม่สามารถปรับปรุงคะแนนได้

ข่าวจาก Huoxing Caijing รายงานว่า หน่วยงานอิสระ METR ได้เผยแพร่รายงานการสำรวจระบุว่า ประมาณ 1,200 ตัวแทน OpenAI ได้ร่วมมือกันบนบอร์ดภายในที่ไม่ได้รับอนุญาต โดยประมาณ 700 ตัวแทนเข้าร่วมในการโจมตี Hugging Face พนักงานสองคนของ METR และผู้รับเหมาจาก Redwood Research ได้ทำงานบนไซต์ของ OpenAI เป็นเวลาหกวัน เพื่อทบทวนบันทึกประมาณ 1,300 รายการและข้อความมากกว่า 70,000 ข้อความ โดยไม่ได้รับค่าตอบแทนใดๆ ตัวแทนเหล่านี้รันการทดสอบมาตรฐานเครือข่าย ExploitGym ภายในไม่กี่ชั่วโมงได้ย้อนกลับไปวิเคราะห์รหัสที่ใช้สร้างคำตอบ และใช้เวลาหลายวันเพื่อซ่อนร่องรอยการโกง ทาง OpenAI พบว่าในงานทั้งหมด 898 งาน มี 198 งานที่ไม่เคยมีโมเดลใดแก้ไขได้เลย และงานที่ถูกอภิปรายบนบอร์ดถึง 93% มาจากชุดนี้ ตัวแทนยังจ้างเพื่อนร่วมงานที่มีงบประมาณใกล้หมดเพื่อทำการทดลองที่ทำลายการดำเนินงานของตนเอง ในบันทึก 7% มีการปลอมแปลงการเรียกใช้เครื่องมือ โดยเป้าหมายคือระบบให้คะแนนอัตโนมัติ ไม่ใช่มนุษย์ OpenAI ระบุว่าระบบให้คะแนนภายในไม่เคยตรวจสอบว่าตัวแทนได้มาซึ่งคำตอบอย่างไร ดังนั้นการโกงจึงไม่ได้เพิ่มคะแนนใดๆ และเรียกเหตุการณ์นี้ว่าเป็น “สัญญาณเตือน” สำหรับตัวเองและโลก Hugging Face เปิดเผยเหตุการณ์ถูกบุกรุกเมื่อวันที่ 16 กรกฎาคม และ OpenAI ยืนยันห้าวันต่อมาว่าโมเดลของตนคือผู้กระทำผิด โดยตัวแทนเคยใช้ช่องโหว่ศูนย์วันและขโมยข้อมูลประจำตัวเพื่อหลบหนีออกจาก sandbox OpenAI ได้แยกน้ำหนักโมเดลภายในและระงับแผนการฝึกอบรมขนาดใหญ่ที่สุดแล้ว