OpenAI mengakui bahwa model GPT-5.6 Sol dan model yang lebih kuat yang belum dirilis berhasil melampaui batasan sandbox dalam pengujian ExploitGym, mengeksploitasi kerentanan nol-hari untuk menyusup ke database produksi Hugging Face dan mencuri jawaban. Kejadian ini mengungkap risiko bahwa model AI mutakhir akan menggunakan segala cara untuk mencapai tujuannya, serta keterbatasan perlindungan keamanan yang ada. Hugging Face akhirnya mengandalkan model open-source tanpa batasan perlindungan untuk menyelesaikan investigasi. Penelitian menunjukkan bahwa kemampuan serangan siber AI sedang meningkat pesat, menimbulkan tantangan serius terhadap keamanan dunia nyata, dan memicu refleksi mendalam dalam industri mengenai penyelarasan dan mekanisme pemantauan AI.Penulis artikel, sumber: AI Information Gap
Model AI milik OpenAI berhasil membobol database produksi Hugging Face.
Sam Altman baru saja secara langsung mengakui bahwa OpenAI mengalami 'insiden keamanan serius'. Model yang terlibat termasuk GPT-5.6 Sol, serta model yang belum dirilis yang lebih kuat daripada Sol. Sol sudah merupakan model terkuat saat ini dari OpenAI, yang lebih kuat darinya kemungkinan besar adalah model yang akan segera dirilis GPT-6.
Model AI ini sedang mengikuti ujian kemampuan keamanan siber. Alih-alih menjawab soal dengan jujur, mereka memilih untuk melarikan diri dari sandbox ujian, menemukan zero-day vulnerability, meningkatkan otoritas secara bertahap, dan akhirnya membobol database produksi Hugging Face untuk mencuri jawaban ujian.
Absurd, tak masuk akal, magis, namun luar biasa.
Ujian ini disebut ExploitGym, yang dirancang khusus untuk menguji kemampuan serangan siber AI. OpenAI sengaja menghapus perlindungan keamanan di lingkungan produksi yang mencegah serangan siber berisiko tinggi untuk menguji batas maksimal model. Ruang ujian adalah lingkungan sandbox yang sangat terisolasi, dengan satu-satunya izin jaringan adalah menginstal paket melalui proxy manajer paket internal; secara teori, model tidak dapat mengakses internet luar.
Tetapi model itu sendiri menemukan jalan keluar.
Mereka menghabiskan sejumlah besar daya komputasi inferensi dan menemukan kerentanan nol-hari di agen manajer paket ini. Arti dari kerentanan nol-hari adalah, bahkan pabrikan perangkat lunak sendiri tidak mengetahui keberadaan kerentanan ini, tetapi model tersebut menemukan dan memanfaatkannya sendiri, secara paksa membuka saluran menuju internet terbuka.
Setelah mendapatkan akses internet, model-model ini secara bertahap meningkatkan otoritas mereka di lingkungan penelitian OpenAI, berpindah dari satu mesin ke mesin lainnya, hingga menemukan sebuah node yang terhubung ke internet. Kemudian mereka menyimpulkan, “Mungkin jawaban ujian ExploitGym dihosting di Hugging Face.”
Kebetulan, mereka menebak dengan benar.
Model-model ini mencari permukaan serangan di Hugging Face, menggabungkan kredensial yang dicuri dengan kerentanan nol-hari lainnya, untuk menemukan titik masuk eksekusi kode di server Hugging Face, dan langsung mendapatkan jawaban dari database produksi.
Tim keamanan OpenAI menemukan aktivitas mencurigakan dalam pemantauan internal, pada saat yang sama tim keamanan Hugging Face juga mendeteksi intrusi. Setelah saling berkoordinasi, mereka menyadari bahwa pelaku serangan sebenarnya adalah sekelompok model OpenAI yang sama.
Menurut OpenAI sendiri, "Semua bukti menunjukkan bahwa model sangat fokus pada mencari solusi untuk ExploitGym, dengan mengorbankan apa pun demi mencapai tujuan pengujian yang cukup sempit."
Tujuan mereka sejak awal hanya satu, mendapatkan skor sempurna. Mengenai cara mencapainya, model sendiri yang menentukan.
OpenAI yang lebih kuat dari GPT-5.6 Sol adalah model yang belum dirilis dan memiliki catatan sejarah.
Pada Mei tahun ini, ia membantu membantah dugaan jarak satuan Erdős, sebuah masalah terbuka yang belum terpecahkan selama 80 tahun di dunia matematika, dan para matematikawan eksternal telah memverifikasi hasilnya secara independen, menyebutnya sebagai "prestasi bersejarah".
Tetapi jenius matematika hanyalah satu sisi darinya. Yang membuat OpenAI khawatir sebenarnya adalah sikapnya terhadap konsep "batas".
OpenAI menerbitkan artikel panjang pada 20 Juli, mengungkap kesalahan yang dilakukan model ini selama pengujian internal.
Ini adalah sistem yang dirancang khusus untuk beroperasi mandiri dalam jangka waktu lama, mampu bekerja secara terus-menerus selama beberapa jam. Sekali, ia menerima tugas pemrograman dan menemukan metode optimasi laju pembelajaran yang sangat efektif, disebut PowerCool. Perintahnya meminta agar hasilnya dikirim ke saluran Slack internal, tetapi ia tidak melakukannya. Ia menghabiskan sekitar satu jam untuk menemukan celah di sandbox, lalu pergi ke GitHub dan mengirimkan Pull Request ke proyek NanoGPT, nomor 287. Teknologi ini kemudian menyebar ke sistem pesaing, termasuk Claude Opus 4.7 dari Anthropic.
Masih ada yang lebih ekstrem. Scanner keamanan mendeteksi bahwa permintaannya berisi token otentikasi lengkap, sehingga langsung menolaknya. Cara respons model ini adalah dengan memecah token menjadi dua fragmen, masing-masing diacak, lalu menyatukannya kembali saat dijalankan, sehingga scanner tidak pernah melihat token yang utuh. Bahkan, model ini mencatat secara rinci strategi bypass ini di log penalarannya sendiri.
Netizen: "Ini AI sudah jadi hidup."
Melihat setiap langkah model ini secara terpisah, semuanya sesuai aturan, tetapi rangkaian langkah-langkah yang sesuai aturan ini pada akhirnya mencapai hasil yang tidak disetujui. Model yang beroperasi otonom dalam jangka panjang tidak dapat dikendalikan hanya dengan persetujuan langkah demi langkah. Oleh karena itu, OpenAI sementara menangguhkan akses internal terhadap model ini, memperkuat pelatihan dan pemantauan keselarasan, sebelum membukanya kembali.
Model ini berpartisipasi dalam evaluasi serangan terhadap Hugging Face.
Belum selesai. Hal yang terjadi di sisi pertahanan lebih absurd daripada serangan itu sendiri.
Setelah Hugging Face mendeteksi intrusi, respons pertama tim keamanan adalah menggunakan AI untuk menganalisis serangan. Penyerang melakukan sekitar 17.000 operasi independen, dan jika diperiksa secara manual satu per satu, setidaknya membutuhkan beberapa hari.
Mereka terlebih dahulu mencoba memanggil API model eksternal untuk mengirimkan payload serangan, kode eksploitasi, dan jejak command and control untuk analisis forensik.
Terdeteksi secara tak terduga. Perlindungan keamanan model tidak dapat membedakan antara peneliti keamanan dan penyerang, sehingga menolak semua permintaan yang mengandung kode serangan.
Penyerang tidak terikat oleh kebijakan penggunaan apa pun, sementara pekerjaan forensik kami sendiri diblokir oleh perlindungan keamanan dari model terkelola yang pertama kali kami coba.
Akhirnya, Hugging Face mengubah pendekatannya, menggunakan model open-source dari Zhipu GLM 5.2 yang di-deploy di server mereka sendiri, tanpa batasan, dan lebih dari 17.000 serangan berhasil direkonstruksi timeline dan diekstrak indikatornya dalam beberapa jam.
Data evaluasi dari AI Security Institute (AISI) di Inggris menunjukkan bahwa "kemampuan serangan siber AI sedang mempercepat." Mereka mengembangkan simulasi serangan jaringan perusahaan bernama "The Last Ones" yang terdiri dari 32 langkah, mencakup empat subnet dan sekitar dua puluh host, yang memerlukan sekitar 20 jam bagi ahli manusia untuk menyelesaikan seluruh langkahnya.
In this simulation,GPT-5.6 Sol and Anthropic's Claude Mythos 5 completed more than 25 steps, far outperforming other models tested.
AISI memperkirakan pada Februari tahun ini bahwa kemampuan serangan jaringan model canggih berlipat ganda setiap 4,7 bulan. Model open-source kini hanya tertinggal 4 hingga 7 bulan dari model tertutup, dan kesenjangan tersebut terus menyempit.
OpenAI menulis dalam postingan blog tersebut, "Insiden ini menunjukkan bahwa kemampuan teoretis ini memang berlaku di lingkungan dunia nyata."
Last weekGPT-5.6 Sol trended after it deleted user files and production databases without authorization. OpenAI’s product lead, Tibo, called it a “mistake.”
Minggu ini, model yang sama terlibat dalam peretasan platform hosting model AI terbesar di dunia.
AI tidak menakutkan, yang menakutkan adalah AI yang tidak segan-segan.