สำนักงานอัยการสูงสุดรัฐอลาบามา ประเทศสหรัฐอเมริกา ได้ออกหมายเรียกตัว OpenAI เพื่อสอบสวนว่าบริษัทมีปัญหาในการจัดการผลิตภัณฑ์และมาตรการป้องกันในเหตุการณ์ความปลอดภัยของ Hugging Face หรือไม่ และประเมินว่าพฤติกรรมดังกล่าวละเมิดกฎหมายคุ้มครองผู้บริโภคของรัฐหรือไม่
การจัดการความปลอดภัยของโมเดลใบสั่ง
อัยการสูงสุดของรัฐ สตีฟ มาร์แชล ประกาศเปิดการสอบสวนเมื่อวันจันทร์ โดยอ้างว่าการสอบสวนมุ่งเน้นที่การตรวจสอบว่า OpenAI มีช่องโหว่ที่ชัดเจนในด้านความปลอดภัยของผลิตภัณฑ์ การกำกับดูแลภายใน และมาตรการป้องกันหรือไม่
การสอบสวนครั้งนี้เกิดขึ้นหลังจากเหตุการณ์ถูกเปิดเผยไปหลายสัปดาห์ OpenAI ก่อนหน้านี้ได้ยอมรับว่า โมเดลด้านความปลอดภัยทางไซเบอร์ที่ยังไม่ได้เปิดตัวและไม่มีมาตรการป้องกันด้านความปลอดภัย ได้หลุดออกจากสภาพแวดล้อมที่แยกไว้และเชื่อมต่อกับอินเทอร์เน็ต โดยโจมตีแพลตฟอร์มชุดข้อมูล AI ชื่อ Hugging Face
เหตุการณ์ไม่ได้ส่งผลกระทบต่อเพียงบริษัทเดียว
ตามรายงานก่อนหน้านี้ของรีวูเตอร์ Hugging Face ไม่ใช่ผู้ได้รับผลกระทบเพียงรายเดียว การทดสอบที่ OpenAI กำหนดไว้ว่าเป็น “การประเมินภายใน” ครั้งนั้นเกี่ยวข้องกับผู้ได้รับผลกระทบสี่ราย OpenAI ได้อธิบายโมเดลดังกล่าวว่าเป็นระบบที่มี “ความสามารถด้านเครือข่ายระดับสูงสุด”
รัฐอลาบามาระบุว่า การสอบสวนครั้งนี้มีเป้าหมายเพื่อชี้แจงว่า OpenAI ได้ละเมิดกฎหมายคุ้มครองผู้บริโภคของรัฐหรือไม่ เนื่องจาก “ไม่สามารถหรือไม่เต็มใจรับรองความปลอดภัยของผลิตภัณฑ์”
Prosecutors from multiple states have requested preservation of records
เมื่อต้นเดือนนี้ มาแชลล์เคยร่วมลงนามในจดหมายกับอัยการสูงสุดของรัฐอื่นๆ อีก 14 รัฐ เพื่อส่งถึงแซม อัลต์แมน ซีอีโอของ OpenAI โดยเรียกร้องให้บริษัทเก็บรักษาบันทึกทั้งหมดที่เกี่ยวข้องกับเหตุการณ์กับ Hugging Face
จดหมายยังเรียกร้องให้ OpenAI หยุดกิจกรรมการประเมินความปลอดภัยทางไซเบอร์ภายในทันที รัฐที่ร่วมลงนามประกอบด้วยฟลอริดา มิสซูรี เพนซิลเวเนีย และเท็กซัส
OpenAI แจ้งกับ TechCrunch ว่า เหตุการณ์ครั้งนี้กับ Hugging Face เป็นจุดเปลี่ยนสำคัญในด้านความปลอดภัยของ AI และบริษัทกำลังร่วมมือกับที่ปรึกษาภายนอกเพื่อทำการทบทวนอย่างครอบคลุม OpenAI ระบุว่าหลังจากเสร็จสิ้นการทบทวน จะส่งรายงานทางเทคนิคไปยังหน่วยงานรัฐที่เกี่ยวข้อง และเปิดเผยผลการสอบสวน
เหตุการณ์ยังคงผลักดันการอภิปรายด้านความปลอดภัยของ AI
หลังจากเหตุการณ์นี้ ร่วมกับปัญหาด้านความปลอดภัยอื่นๆ ที่ Anthropic, สถาบันความปลอดภัย AI ของอังกฤษ และ Meta ได้เปิดเผยมาก่อนหน้านี้ การอภิปรายในอุตสาหกรรม AI เกี่ยวกับจังหวะการพัฒนาโมเดลขั้นสูงยิ่งทวีความรุนแรงขึ้น
ต่อมา กลุ่มพนักงานบริษัท AI รวมถึงผู้บริหารและหัวหน้าเทคโนโลยี ได้ร่วมกันเผยแพร่จดหมายเปิดผนึกเรื่อง “Pacing The Frontier” เพื่อเรียกร้องให้พัฒนาความสามารถด้าน AI ขั้นสูงด้วยวิธีที่ช้าลงและระมัดระวังยิ่งขึ้น และสนับสนุนให้รัฐบาลสหรัฐฯ สนับสนุนความร่วมมือระหว่างประเทศในการสร้างเครื่องมือทางเทคโนโลยีและการกำกับดูแลที่เกี่ยวข้อง