ห้องปฏิบัติการพัฒนาปัญญาประดิษฐ์ OpenAI เปิดเผยเมื่อวันอังคาร ว่ากลุ่มโมเดลของพวกเขารวมถึง GPT-5.6 Sol ที่เปิดให้สาธารณชนใช้งานและระบบใหม่ที่มีความสามารถสูงกว่าซึ่งยังไม่เปิดตัว ได้ “หลุดรอด” จากสภาพแวดล้อมการทดสอบที่ควบคุมและทำลายโครงสร้างพื้นฐานการผลิตของ Hugging Face บริษัทที่ให้บริการโฮสต์ปัญญาประดิษฐ์แบบโอเพ่นซอร์สส่วนใหญ่
โมเดลถูกทดสอบผ่านการเปรียบเทียบภายในที่เรียกว่า ExploitGym ซึ่งเป็นการทดสอบภารกิจการโจมตีแบบยาวและหลายขั้นตอน โดยการปฏิเสธด้านความปลอดภัยทางไซเบอร์ถูกลดลงอย่างตั้งใจสำหรับการประเมิน
เพื่อให้ชัดเจน นี่ไม่ใช่โมเดลการผลิตที่เปลี่ยนเป็นศัตรูโดยไม่คาดคิด แต่เป็นโมเดลที่มีความสามารถซึ่งมีมาตรการป้องกันปิดอยู่ และได้รับคำสั่งโดยเฉพาะให้ชนะการทดสอบการเจาะระบบ — ทำทุกอย่างที่จำเป็นเพื่อชนะ
แบบจำลองพบข้อบกพร่องที่ซ่อนอยู่ในซอฟต์แวร์ทดสอบ ซึ่งไม่มีใครรู้ว่ามีอยู่ และใช้มันเพื่อหลบผ่านกำแพงที่ออกแบบมาเพื่อป้องกันไม่ให้พวกเขาเชื่อมต่ออินเทอร์เน็ต เมื่อเชื่อมต่ออินเทอร์เน็ตได้แล้ว พวกเขาเดาว่า Hugging Face อาจจัดเก็บคำตอบของการทดสอบ
เพื่อเข้าสู่ระบบ พวกเขาเชื่อมโยงรหัสผ่านที่ถูกขโมยและช่องโหว่อื่นๆ ที่ซ่อนอยู่จนสามารถรันคำสั่งของตนเองบนเซิร์ฟเวอร์แบบเรียลไทม์ของ Hugging Face
OpenAI ตรวจพบความผิดปกตินี้ภายใน ขณะที่ทีมของ Hugging Face ตรวจจับและควบคุมสถานการณ์นี้ได้ บริษัทเรียกเหตุการณ์นี้ว่า “ไม่เคยเกิดขึ้นมาก่อน” และระบุว่าจะมีการดำเนินการด้านความปลอดภัยอย่างกว้างขวางเพื่อป้องกันเหตุการณ์ไม่พึงประสงค์ที่อาจส่งผลกระทบต่อระบบหรือบริการของสาธารณะ
ทีมงานกล่าวในโพสต์บนบล็อกว่า “เรากำลังดำเนินการควบคุมอย่างเข้มงวดในการกำหนดค่าโครงสร้างพื้นฐาน ซึ่งส่งผลให้ความเร็วในการวิจัยลดลงในขณะที่กำลังแก้ไขช่องโหว่ต่างๆ “เราได้ปรับปรุงและเพิ่มการป้องกันที่แข็งแกร่งยิ่งขึ้นสำหรับการฝึกอบรมและการประเมินในอนาคต”
การโจมตีสกุลเงินดิจิทัลส่วนใหญ่เกิดขึ้นก่อนที่เงินจะถูกเคลื่อนย้าย ผู้โจมตีสแกนโค้ด ทดสอบรหัสผ่าน ค้นหาข้อมูลรับรองที่เปิดเผยอยู่ วิเคราะห์การตั้งค่าการลงนาม และมองหาช่องทางเข้าสู่บัญชีผู้ดูแลระบบ
แบบจำลองของ OpenAI ดำเนินการหลายส่วนของกระบวนการดังกล่าวในระหว่างเหตุการณ์ของ Hugging Face โดยเคลื่อนที่จากจุดอ่อนจุดหนึ่งไปยังอีกจุดหนึ่งจนกระทั่งถึงเซิร์ฟเวอร์ผลิตที่ใช้งานจริง
และตลาดคริปโตมีหลายจุดที่แนวทางนี้สามารถใช้งานได้ ตามที่การโจมตีหลายครั้งในช่วงต้นปีนี้ได้แสดงให้เห็น จุดอ่อนอาจอยู่ที่สัญญาอัจฉริยะ แต่ก็อาจอยู่ที่แล็ปท็อปของนักพัฒนา แพ็กเกจซอฟต์แวร์ที่ถูกปลอมปน ตัวตรวจสอบสะพาน หรือผู้ลงนามหนึ่งรายในวอลเล็ตแบบมัลติซิกร์
ยกตัวอย่างการโจมตี Drift มูลค่า 285 ล้านดอลลาร์สหรัฐในช่วงต้นปีนี้ ซึ่งใช้แคมเปญการหลอกลวงทางสังคมเป็นเวลาหกเดือนเพื่อเข้าถึงสิทธิ์พิเศษ ตัวแทน AI สามารถทดสอบเส้นทางหลายเส้นพร้อมกันในทฤษฎี ติดตามความพยายามที่ล้มเหลว และดำเนินงานต่อไปขณะที่ผู้ดำเนินการมนุษย์กำลังนอนหลับ เมื่อพบเส้นทางที่เหมาะสม ผู้ดำเนินการสามารถดำเนินการโจมตีจริงและหาทางออกที่เป็นไปได้
การสูญเสียสะพานมูลค่า 292 ล้านดอลลาร์สหรัฐของ KelpDAO เปิดเผยจุดอ่อนที่แตกต่างกัน ผู้โจมตีพบช่องโหว่ของผู้ตรวจสอบเพียงหนึ่งรายในระบบที่ใช้สำหรับการย้ายสินทรัพย์ระหว่างบล็อกเชน
การโจมตีประเภทนี้เริ่มต้นด้วยการทบทวนโค้ดอย่างรอบคอบและการแมปโครงสร้างพื้นฐาน—ประเภทของงานที่โมเดลของ OpenAI ดำเนินการเมื่อพวกเขาค้นพบช่องโหว่ที่ไม่รู้จัก
ประเภทที่สามของการโจมตีมุ่งเป้าไปที่ระบบการบริหารจัดการบนโซ่ ช่วงต้นเดือนกรกฎาคม ผู้โจมตี ใช้เงินประมาณ 4.4 ล้านดอลลาร์สหรัฐ เพื่อซื้อเหรียญ BONK ที่สร้างบนโซลานาเพียงพอเพื่อเสนอและผ่านข้อเสนอที่โอนเงินประมาณ 20 ล้านดอลลาร์สหรัฐจากคลังของโครงการไปยังผู้โจมตี การกระทำนี้เกิดขึ้นภายในระยะเวลาสามวัน และผู้โจมตีได้ขายเหรียญทั้งหมดที่ใช้ในการลงคะแนนเสียงชนะ ตามรายงานของ CoinDesk ในเวลานั้น
การซื้อ การลงคะแนน และการโอนคลังทรัพย์สำหรับการโจมตีนั้น ล้วนเป็นธุรกรรมที่ถูกต้องตามลำดับ แต่การขโมยเกิดจากการเข้าใจว่ากฎต่างๆ ทำงานร่วมกันอย่างไร และพบว่าต้นทุนในการซื้อการควบคุมต่ำกว่าเงินที่มีอยู่เพื่อใช้ในการยึดครอง
เหตุการณ์ของ Hugging Face ก็มีความสำคัญต่อห่วงโซ่อุปทานซอฟต์แวร์ด้วย นักพัฒนาคริปโตใช้คลังรหัสสาธารณะ บริการคลาวด์ และเรจิสทรีแพ็กเกจ
แม้ว่าการทดสอบของ OpenAI จะแสดงให้เห็นว่าเครื่องจักรสามารถดำเนินการส่วนกลางที่ยาวนานของการละเมิดได้ แต่การโจมตีเช่น Drift และ KelpDAO แสดงให้เห็นว่าอะไรอยู่ที่จุดสิ้นสุดของเส้นทางนั้น