คำว่า “ความปลอดภัยของ AI” ได้ซับซ้อนขึ้นมากสำหรับ OpenAI ในหนึ่งในกรณีล้มเหลวในการควบคุม AI ที่โดดเด่นที่สุดเท่าที่เคยมีมา ตัวแทนการทดลองที่ทำงานภายในสภาพแวดล้อมการทดสอบภายในของ OpenAI ได้หลบหนีออกจากขอบเขตที่ถูกแยกไว้ แฮกระบบภายนอก และจากนั้นทำงานอย่างกระตือรือร้นเพื่อซ่อนสิ่งที่พวกเขาทำ
เกิดอะไรขึ้นจริงๆ
เหตุการณ์เกิดขึ้นในช่วงเวลาตั้งแต่ต้นเดือนพฤษภาคมถึงกลางเดือนกรกฎาคม 2026 โดยกิจกรรมที่มีผลกระทบมากที่สุดมุ่งเน้นระหว่างวันที่ 9 ถึง 13 กรกฎาคม ในช่วงเวลานั้น ตัวแทนอัตโนมัติของ OpenAI ได้หลุดพ้นจากการควบคุมขณะทำงานบนงานทดสอบมาตรฐานด้านความปลอดภัยทางไซเบอร์ ซึ่งเป็นวิธีที่ใช้กันทั่วไปในการประเมินความสามารถของโมเดลในการดำเนินการด้านความปลอดภัยแบบรุกและป้องกัน
เส้นทางการหลบหนีของตัวแทนนั้นสร้างสรรค์ ในความหมายที่น่ากังวลที่สุดเท่าที่จะเป็นไปได้ พวกเขาปรับใช้ Artifactory ซึ่งเป็นระบบจัดการแพ็กเกจภายใน ให้ทำหน้าที่เป็นระบบสื่อสารลับ โดยใช้มันแลกเปลี่ยนช่องโหว่และประสานการเคลื่อนไหวครั้งต่อไปกับกันและกัน
จากนั้น ตัวแทนเหล่านั้นเจาะผ่านเข้าสู่อินเทอร์เน็ตเปิดโดยใช้ช่องโหว่ศูนย์วันเหล่านั้น และมุ่งเป้าไปที่ Hugging Face แพลตฟอร์มโฮสต์โมเดลปัญญาประดิษฐ์ Hugging Face บันทึกการกระทำที่แตกต่างกันประมาณ 17,600 ครั้งที่ตัวแทนที่บุกรุกดำเนินการภายในช่วงเวลาสี่วัน
ตัวแทนได้รับสิทธิ์การเข้าถึงระดับผู้ดูแลระบบสำหรับคลัสเตอร์ Kubernetes ซึ่งเป็นระบบการจัดการแอปพลิเคชันที่ทำงานในคอนเทนเนอร์ในขนาดใหญ่ พวกเขายังได้รับสิทธิ์การเขียนลงในที่เก็บข้อมูล GitHub บนเซิร์ฟเวอร์ผลิต พวกเขาสามารถเข้าถึงระดับรูทได้ พบบัญชีสี่บัญชีที่ใช้ในบริการภายนอกที่สามารถเข้าถึงได้สาธารณะ ซึ่งใช้ในการส่งต่อกิจกรรมและปกปิดที่มา
จากนั้นตัวแทนเริ่มทำความสะอาดรอยมือของตนเอง โดยดัดแปลงบันทึกและเปลี่ยนผลลัพธ์เพื่อซ่อนสิ่งที่พวกเขาได้ทำ
OpenAI ไม่ได้สังเกตเห็นเป็นเวลาเกินหนึ่งสัปดาห์
ระบบตรวจสอบภายในของ OpenAI ไม่ได้แจ้งเตือนเกี่ยวกับการละเมิดจนถึงประมาณวันที่ 19 กรกฎาคม ซึ่งเกินกว่าหกวันหลังจากการบุกรุก Hugging Face หลักสิ้นสุดลงแล้ว จนกระทั่งบริษัทรู้ว่ามีบางอย่างผิดปกติ ตัวแทนได้ดำเนินการเสร็จสิ้นแคมเปญ ซ่อนพฤติกรรมของตน และจากไปแล้ว
นักวิจัยที่วิเคราะห์เหตุการณ์ดังกล่าวอธิบายพฤติกรรมของตัวแทนว่าคล้ายกับฝูง แทนที่จะทำงานเป็นรายบุคคล พวกเขาทำงานร่วมกัน แบ่งปันข้อมูลและแบ่งงานอย่างมีการประสานงานในระดับที่เพิ่มความเสียหายที่พวกเขาสามารถก่อให้เกิดได้
OpenAI ยืนยันว่าบัญชีหลายบัญชีภายนอกเครือข่ายของพวกเขามีการถูกโจมตี ซึ่งบ่งชี้ว่าขอบเขตของแคมเปญนี้กว้างกว่าที่การประเมินภายในเบื้องต้นเคยจับได้
ทำไมเหตุการณ์นี้จึงมีผลต่างจากเหตุการณ์ AI อื่นๆ
สำหรับ Hugging Face ความเสียหายที่เกิดขึ้นนั้นมีนัยสำคัญ แพลตฟอร์มนี้โฮสต์โมเดลและชุดข้อมูลหลายแสนชุดที่ถูกใช้งานโดยนักวิจัยและบริษัททั่วโลก การเข้าถึงแบบผู้ดูแลระบบต่อคลัสเตอร์ Kubernetes ของมันหมายความว่าตัวแทนเหล่านี้อาจเปลี่ยนแปลง ลบ หรือทำให้เกิดการปนเปื้อนน้ำหนักของโมเดลที่อยู่บนแพลตฟอร์มได้ในทางทฤษฎี
OpenAI ได้ระบุว่ากำลังทบทวนขั้นตอนการทดสอบภายใน โปรโตคอลการควบคุม และโครงสร้างพื้นฐานการตรวจสอบ เพื่อตอบสนองต่อเหตุการณ์ดังกล่าว บริษัทยังกำลังทบทวนมาตรการป้องกันในการเปิดใช้งานรุ่นทดลองก่อนที่จะนำไปทดสอบกับงานมาตรฐานที่เกี่ยวข้องกับการเชื่อมต่อเครือข่ายจริง