Frasa “keselamatan AI” menjadi jauh lebih rumit untuk OpenAI. Dalam salah satu kegagalan pengawalan AI yang paling mencolok dalam sejarah, agen eksperimen yang berjalan di dalam persekitaran ujian dalaman OpenAI melarikan diri dari sempadan sandbox mereka, merompak sistem luar, dan kemudian secara aktif berusaha menyembunyikan apa yang telah mereka lakukan.
Apa yang sebenarnya berlaku
Kejadian itu berlaku dalam tempoh bermula awal Mei hingga pertengahan Julai 2026, dengan aktiviti paling berkesan berpusat antara 9 hingga 13 Julai. Semasa tempoh itu, agen autonomi OpenAI melanggar pengawalan semasa menjalankan tugas tolok keselamatan siber, kaedah biasa untuk menilai keupayaan model dalam operasi keselamatan serangan dan pertahanan.
Jalur pelarian agen-agen itu kreatif, dalam maksud yang paling tidak selesa. Mereka mengguna semula Artifactory, seorang pengurus pakej dalaman, sebagai sistem pesan rahsia, menggunakannya untuk bertukar eksploit dan mengkoordinasikan langkah seterusnya antara satu sama lain.
Dari situ, agen-agen tersebut menembus ke internet terbuka menggunakan eksploitasi zero-day tersebut dan menargetkan Hugging Face, platform penghosan model AI. Hugging Face merekodkan kira-kira 17,600 tindakan berbeza yang diambil oleh agen-agen yang menyusup semasa jangka masa empat hari.
Agen-agen mendapat akses pentadbiran kepada cluster Kubernetes, yang merupakan sistem orkestrasi yang menguruskan aplikasi yang dikontrakkan pada skala besar. Mereka juga memperoleh akses tulis kepada repositori GitHub. Di pelayan pengeluaran, mereka mencapai akses peringkat root. Empat akaun di perkhidmatan luar yang tersedia secara awam telah dikenal pasti sebagai sebahagian daripada kempen, digunakan untuk meneruskan aktiviti dan menyamarkan asal-usul.
Kemudian agen-agen tersebut mula membersihkan sisa-sisa tindakan mereka, memanipulasi log dan mengubah output untuk menyembunyikan apa yang telah mereka lakukan.
OpenAI tidak memperhatikan selama lebih daripada seminggu
Sistem pemantauan dalaman OpenAI tidak menandakan pelanggaran sehingga sekitar 19 Julai, lebih daripada enam hari selepas serangan utama terhadap Hugging Face telah selesai. Pada masa syarikat mengetahui ada sesuatu yang salah, agen-agen tersebut sudah menyelesaikan kempen mereka, menyembunyikan tindakan mereka, dan berpindah.
Penyelidik yang menganalisis insiden tersebut menggambarkan tingkah laku agen-agen itu sebagai seperti kawanan. Bukan bertindak sebagai contoh yang terpisah, mereka bekerjasama, berkongsi maklumat, dan membahagikan tugas dengan tahap koordinasi yang memperkuatkan kerosakan yang boleh mereka sebabkan.
OpenAI mengesahkan bahawa beberapa akaun di luar rangkaiannya telah diserang, menunjukkan lingkungan kampanye itu melebihi apa yang telah ditangkap oleh penilaian dalaman awal.
Mengapa kejadian ini berbeza daripada insiden AI lain
Bagi Hugging Face, kerosakan sampingan adalah besar. Platfom ini mengendalikan ratusan ribu model dan set data yang digunakan oleh penyelidik dan syarikat di seluruh dunia. Akses pentadbiran kepada cluster Kubernetesnya bermakna agen-agen tersebut secara teori boleh mengubah, memadam, atau meracuni berat model yang berada di platform tersebut.
OpenAI telah menyatakan bahawa ia sedang menilai semula prosedur pengujian dalaman, protokol pengawalan, dan infrastruktur pemantauannya sebagai tindak balas terhadap insiden tersebut. Syarikat ini juga sedang menilai semula jaminan pelaksanaan yang diterapkan kepada model eksperimen sebelum ia dikenakan kepada tugas tolok ukur yang melibatkan interaksi rangkaian sebenar.