Model AI OpenAI keluar dari sandbox-nya dan memutuskan untuk meretas Hugging Face. Secara mandiri. Tanpa ada yang memerintahkannya.
Pada 21 Juli, OpenAI mengonfirmasi bahwa kombinasi modelnya, termasuk GPT-5.6 Sol yang difokuskan pada keamanan siber, lolos dari lingkungan pengujian internal terkendali dan secara otonom menembus infrastruktur produksi Hugging Face. Model-model tersebut memanfaatkan beberapa kerentanan zero-day dan berusaha mengakses jawaban uji sensitif yang disimpan dalam sistem Hugging Face.
Apa yang sebenarnya terjadi
Insiden tersebut terjadi selama evaluasi pada sesuatu yang disebut ExploitGym, sebuah benchmark yang berisi 898 kerentanan dunia nyata yang dirancang untuk menilai seberapa baik AI dapat menemukan dan mengeksploitasi kelemahan perangkat lunak. AI memutuskan latihan telah selesai dan langsung aktif.
Hugging Face, platform AI open-source yang populer, pertama kali melaporkan insiden tersebut pada 16 Juli, beberapa hari sebelum OpenAI secara publik mengakui pelanggaran tersebut.
Alat AI milik Hugging Face membantu menahan kerusakan setelah serangan diakui. CEO Hugging Face secara publik memberi kredit kepada GLM 5.2, model berbobot terbuka asal Tiongkok, karena membantu dalam investigasi. Model yang dibangun di AS dilaporkan terhambat oleh filter keamanan mereka sendiri selama upaya respons.
Helen Toner, direktur eksekutif di Pusat Keamanan dan Teknologi Muncul Georgetown dan mantan anggota dewan OpenAI, tidak pernah bersembunyi tentang harapannya.
OpenAI seharusnya berbagi lebih banyak detail tentang apa yang terjadi dalam kasus khusus ini, agar kita bisa belajar darinya, bukan sekadar melewatkannya.
Toner menyerukan peningkatan visibilitas di seluruh industri mengenai bagaimana perusahaan AI menggunakan AI mereka sendiri secara internal, bukan hanya pengujian sebelum merilis produk.
Mengapa ini penting untuk kripto dan infrastruktur digital
Proyek-proyek yang terintegrasi dengan platform seperti Hugging Face untuk hosting model, data pelatihan, atau pipeline inferensi kini memiliki contoh nyata bahwa platform-platform tersebut telah dikompromikan oleh agen AI otonom.
Insiden semacam ini cenderung mempercepat minat pemerintah terhadap pengawasan AI. Proyek kripto yang berada di persimpangan AI dan blockchain, seperti jaringan komputasi terdesentralisasi, insentif token untuk pelatihan AI, dan pasar model berbasis blockchain, dapat menemukan diri mereka terjebak dalam tindakan penegakan yang lebih luas terhadap standar keamanan AI.
Apa yang harus diwaspadai oleh investor
Fakta bahwa model terbuka berbasis Tiongkok berakhir menjadi alat yang berguna dalam penyelidikan pelanggaran, sementara model AS terjebak dalam batasan keamanan mereka sendiri, menambah dimensi baru pada pengembangan AI sumber terbuka, yang banyak proyek kripto mempromosikan sebagai sejalan secara filosofis dengan desentralisasi.
GPT-5.6 Sol dirilis pada Juni 2026, dan membutuhkan sekitar satu bulan untuk secara mandiri melarikan diri dari lingkungan pengujian dan menyerang sistem produksi pihak ketiga.