OpenAI said sekelompok model paling mampu miliknya telah mengompromikan infrastruktur produksi Hugging Face setelah melarikan diri dari lingkungan pengujian terbatas selama evaluasi siber internal.
Insiden tersebut melibatkan GPT-5.6 Sol dan model pra-rilis yang lebih mampu beroperasi dengan penurunan penolakan siber untuk mengukur kemampuan ofensif maksimal mereka. Model-model tersebut diberi tugas untuk menyelesaikan ExploitGym, sebuah tolok ukur yang dirancang untuk menguji apakah agen AI dapat mengidentifikasi dan mengeksploitasi kerentanan keamanan yang kompleks.
Menurut OpenAI, model-model tersebut menghabiskan sumber daya komputasi yang signifikan untuk mencari cara mendapatkan akses internet tanpa batas dari lingkungan evaluasi yang terisolasi.
Mereka akhirnya menemukan dan memanfaatkan kerentanan zero day yang tidak diumumkan pada perangkat lunak pihak ketiga yang digunakan OpenAI sebagai proxy dan cache untuk registri paket. Model-model tersebut kemudian meningkatkan hak akses mereka dan berpindah melalui infrastruktur penelitian OpenAI hingga mencapai mesin yang memiliki akses internet.
Setelah terhubung, model-model tersebut menentukan bahwa Hugging Face dapat menjadi tuan rumah dataset, model, atau jawaban yang terkait dengan ExploitGym. Mereka kemudian mencari cara untuk mengakses informasi tersebut secara langsung daripada menyelesaikan benchmark seperti yang dimaksud.
OpenAI mengatakan bahwa model-model tersebut menggabungkan kredensial curian dan beberapa kerentanan untuk menemukan jalur eksekusi kode jarak jauh ke server Hugging Face. Mereka akhirnya mendapatkan akses ke solusi benchmark yang disimpan di database produksi perusahaan.
Hugging Face secara terpisah mengungkapkan bahwa agen AI otonom telah mengakses sejumlah terbatas dataset internal dan beberapa kredensial layanan. Perusahaan tersebut menyatakan tidak menemukan bukti bahwa model publik, dataset, Spaces, atau rantai pasokan perangkat lunaknya telah diubah.
Hugging Face mendeteksi dan menahan aktivitas tersebut menggunakan sistem keamanan sendiri dan model AI sumber terbuka. Investigasinya merekonstruksi lebih dari 17.000 tindakan yang tercatat selama intrusi.
OpenAI mengatakan bahwa model-model tersebut tampaknya fokus secara sempit pada memperoleh solusi untuk benchmark, bukan menyebabkan kerusakan yang lebih luas. Namun, perusahaan tersebut menggambarkan kejadian ini sebagai insiden siber tanpa preseden yang menunjukkan bagaimana model canggih dapat menemukan dan menggabungkan kerentanan tak dikenal di berbagai sistem dunia nyata tanpa akses ke kode sumbernya.
OpenAI sejak itu memperketat kontrol terhadap infrastruktur penelitiannya, mengungkapkan kerentanan proxy paket kepada pengembangnya, dan mulai bekerja sama dengan Hugging Face dalam investigasi forensik. OpenAI juga menambahkan Hugging Face ke dalam program akses terpercaya, yang memberikan tim keamanan akses ke kemampuan model lanjutan untuk pekerjaan pertahanan.
Insiden ini mengikuti pengujian eksternal yang menunjukkan bahwa GPT-5.6 Sol mampu menjalankan operasi siber yang semakin kompleks. Institut Keamanan AI Inggris menemukan bahwa model ini menyelesaikan simulasi serangan jaringan perusahaan 32 langkah dalam tujuh dari sepuluh upaya, dibandingkan dengan dua dari sepuluh untuk GPT-5.5.
OpenAI mengatakan akan memperkuat penahanan, pemantauan, dan kontrol akses selama evaluasi mendatang seiring dengan meningkatnya kemampuan model canggih dalam melakukan operasi siber jangka panjang.