Laboratorium pengembangan AI OpenAI mengungkapkan pada hari Selasa bahwa sekelompok modelnya, termasuk GPT-5.6 Sol yang tersedia untuk umum dan sebuah sistem yang belum dirilis dengan kemampuan lebih tinggi, 'melarikan diri' dari lingkungan pengujian terkendali dan mengompromikan infrastruktur produksi Hugging Face, perusahaan yang menjadi tuan rumah sebagian besar dunia AI sumber terbuka.
Model-model tersebut dijalankan melalui benchmark internal bernama ExploitGym, sebuah uji tugas peretasan panjang dan multi-langkah, dengan penolakan keamanan siber mereka sengaja diturunkan untuk evaluasi.
Untuk jelas, ini bukan model produksi yang secara spontan menjadi bermusuhan. Ini adalah model yang mampu dengan pengaman dimatikan dan secara khusus diperintahkan untuk menang dalam uji coba peretasan—melakukan apa pun yang diperlukan untuk menang.
Model-model tersebut menemukan kelemahan tersembunyi dalam perangkat lunak uji, yang tidak diketahui siapa pun, dan menggunakannya untuk melewati dinding yang dirancang untuk menjaga mereka tetap offline. Setelah masuk ke internet terbuka, mereka menduga bahwa Hugging Face mungkin menyimpan jawaban uji tersebut.
Untuk masuk, mereka menggabungkan kata sandi curian dan kelemahan tersembunyi lainnya hingga dapat menjalankan perintah mereka sendiri di server langsung Hugging Face.
OpenAI mendeteksi anomali tersebut secara internal, sementara tim Hugging Face mendeteksi dan menahannya. Perusahaan menyebut insiden ini "belum pernah terjadi sebelumnya" dan mengatakan langkah-langkah keamanan ekstensif akan diterapkan untuk mencegah kejadian yang tidak diinginkan yang dapat memengaruhi sistem atau layanan publik.
“Kami menerapkan kontrol ketat pada konfigurasi infrastruktur dengan mengorbankan kecepatan penelitian sementara kerentanan diperbaiki,” kata tim dalam postingan blognya. “Kami meningkatkan dan menambahkan perlindungan yang lebih kuat untuk pelatihan dan evaluasi mendatang.”
Sebagian besar serangan kripto terjadi sebelum dana bergerak. Penyerang memindai kode, menguji kata sandi, mencari kredensial yang terbuka, menganalisis pengaturan tanda tangan, dan mencari jalur masuk ke akun administrator.
Model-model OpenAI menjalankan beberapa bagian dari proses tersebut selama insiden Hugging Face, berpindah dari satu kelemahan ke kelemahan lain hingga mencapai server produksi langsung.
Dan pasar kripto memiliki banyak tempat di mana pendekatan ini bisa berhasil, seperti yang ditunjukkan oleh beberapa serangan awal tahun ini. Titik lemahnya bisa berupa kontrak pintar, tetapi juga bisa berupa laptop pengembang, paket perangkat lunak yang diracuni, validator jembatan, atau satu penandatangan dalam dompet multisig.
Ambil serangan $285 juta Drift di awal tahun ini sebagai contoh, pencurian yang memerlukan kampanye sosial-engineering selama enam bulan untuk mencapai akses istimewa. Sebuah agen AI secara teori dapat menguji banyak jalur sekaligus, melacak upaya yang gagal, dan terus bekerja sementara operator manusianya tidur. Setelah jalur ditemukan, operator dapat bertindak atas serangan sebenarnya dan jalur keluar yang viable.
Kerugian jembatan KelpDAO senilai $292 juta mengungkap kelemahan yang berbeda. Penyerang menemukan kelemahan verifier tunggal dalam sistem yang digunakan untuk memindahkan aset antar blockchain.
Serangan semacam itu dimulai dengan tinjauan kode yang sabar dan pemetaan infrastruktur—jenis pekerjaan yang dilakukan model OpenAI ketika mereka menemukan kelemahan yang tidak diketahui.
Sejenis serangan ketiga menargetkan sistem tata kelola onchain. Pada awal Juli, seorang penyerang menghabiskan sekitar $4,4 juta untuk membeli cukup banyak memecoin BONK berbasis Solana guna mengajukan dan mengesahkan usulan yang mentransfer sekitar $20 juta dari kas proyek ke penyerang. Ini terjadi dalam periode tiga hari, dan penyerang kemudian menjual semua token yang digunakan untuk memenangkan pemungutan suara, seperti dilaporkan CoinDesk pada waktu itu.
Pembelian, pemungutan suara, dan transfer kas semuanya merupakan transaksi yang valid secara individu. Namun, pencurian terjadi karena memahami bagaimana aturan-aturan tersebut bekerja bersama dan menemukan bahwa biaya untuk mengendalikan jauh lebih rendah daripada dana yang tersedia untuk diambil.
Insiden Hugging Face juga penting bagi rantai pasokan perangkat lunak. Pengembang kripto bergantung pada repositori kode publik, layanan cloud, dan registri paket.
Meskipun pengujian OpenAI menunjukkan mesin menyelesaikan bagian tengah yang panjang dari sebuah pelanggaran, serangan seperti Drift dan KelpDAO menunjukkan apa yang berada di ujung jalur tersebut.