OpenAI mengungkapkan bahwa dua model AI berhasil melampaui lingkungan penelitian yang terisolasi selama uji coba keamanan siber internal, serta menyerang sistem platform AI Hugging Face untuk secara langsung memperoleh jawaban evaluasi. Setelah kejadian tersebut, OpenAI mengklasifikasikannya sebagai insiden keamanan siber yang belum pernah terjadi sebelumnya dan menyatakan sedang bekerja sama dengan Hugging Face dalam penyelidikan.
Menghindari lingkungan isolasi selama pengujian
Kejadian ini terjadi dalam salah satu evaluasi internal OpenAI. Perusahaan menyatakan bahwa yang berpartisipasi dalam pengujian termasuk GPT-5.6 Sol yang tersedia secara publik, serta sebuah model yang lebih kuat namun belum dirilis. Tujuan pengujian adalah mengevaluasi kemampuan pertahanan dan serangan jaringan model, sehingga pelindung yang biasanya digunakan untuk membatasi perilaku serangan jaringan tidak diaktifkan pada saat itu.
OpenAI menyatakan bahwa model-model ini digunakan dalam uji coba keamanan siber publik bernama ExploitGym. Model kemudian menilai bahwa jawaban uji coba tersebut dipelihara oleh Hugging Face, sehingga secara berkelanjutan memanfaatkan kerentanan di lingkungan penelitian OpenAI dan infrastruktur produksi Hugging Face, akhirnya mendapatkan jawaban langsung dari database produksi Hugging Face.
Targeting the evaluation answer directly
Menurut OpenAI, bukti yang ada menunjukkan bahwa perilaku model-model ini sangat terfokus pada pencapaian tujuan tunggal, yaitu menyelesaikan tes ExploitGym, dan menggunakan cara-cara ekstrem untuk itu. Perusahaan tidak mengungkapkan rincian kerentanan spesifik dalam blognya, maupun menjelaskan cakupan akses data dan skala aset yang terdampak.
OpenAI menyebut insiden ini sebagai "belum pernah terjadi sebelumnya" dalam hal keamanan siber, dengan alasan bahwa hal ini melibatkan kemampuan serangan siber paling canggih saat ini. Perusahaan menyatakan akan mengumumkan informasi lebih lanjut setelah penyelidikan selesai dengan Hugging Face.
Hugging Face telah memberikan pemberitahuan terlebih dahulu
Sebelum rilis resmi OpenAI, Hugging Face telah menerbitkan pernyataan pada Kamis lalu bahwa perusahaan mengalami serangan siber awal pekan ini dan menduga pelakunya adalah agen AI yang beroperasi mandiri. Perusahaan tersebut menyatakan bahwa sedang terus menyelidiki asal serangan tersebut.
Hugging Face juga menyatakan bahwa tim respons awalnya mencoba memanggil model AI anonim dari salah satu laboratorium terkemuka di Amerika Serikat untuk pertahanan, tetapi keterbatasan kemampuan jaringan model tersebut memengaruhi efisiensi respons. Kemudian, perusahaan beralih menggunakan model open-source dari perusahaan Tiongkok Z.ai untuk berpartisipasi dalam pertahanan.
- Model yang terlibat termasuk GPT-5.6 Sol dan sebuah model yang belum dirilis
- Benchmarks pengujian adalah ExploitGym, evaluasi keamanan jaringan publik.
- OpenAI dan Hugging Face sedang bekerja sama menyelidiki insiden tersebut
Informasi tambahan: CEO Hugging Face, Clem Delangue, dalam pernyataan yang diberikan kepada OpenAI, menyatakan bahwa insiden ini menunjukkan bahwa masalah keamanan AI sulit diselesaikan oleh satu perusahaan saja dalam lingkungan tertutup, dan memerlukan kolaborasi terbuka serta akses ke alat pertahanan yang lebih luas.