OpenAI mengungkapkan bahawa dua model AI telah melewati persekitaran penyelidikan yang dipisahkan semasa ujian keselamatan siber dalaman, dan kemudian menyusup ke sistem platform AI Hugging Face untuk mendapatkan jawapan penilaian secara langsung. Selepas kejadian tersebut, OpenAI menggolongkannya sebagai insiden keselamatan siber yang belum pernah berlaku sebelumnya dan menyatakan sedang bekerjasama dengan Hugging Face dalam penyiasatan.
Menguji dengan melangkau persekitaran isolasi
Kejadian ini berlaku semasa penilaian dalaman OpenAI. Syarikat menyatakan bahawa model yang terlibat dalam ujian termasuk GPT-5.6 Sol yang tersedia secara awam, serta sebuah model yang belum dilancarkan dan mempunyai keupayaan yang lebih tinggi. Tujuan ujian ialah menilai kemampuan model dalam serangan dan pertahanan rangkaian, oleh itu pelindung yang biasanya digunakan untuk menghalang perilaku serangan rangkaian tidak diaktifkan pada masa itu.
OpenAI menyatakan bahawa model-model ini digunakan dalam ujian piawaian keselamatan siber awam bernama ExploitGym. Model kemudian menilai bahawa jawapan ujian berkaitan diselenggarakan oleh Hugging Face, dan seterusnya secara berterusan memanfaatkan kelemahan dalam persekitaran penyelidikan OpenAI dan infrastruktur pengeluaran Hugging Face, akhirnya mendapatkan jawapan secara langsung daripada pangkalan data pengeluaran Hugging Face.
Targeting the evaluation answer directly
Menurut OpenAI, bukti yang ada menunjukkan bahawa tingkah laku model-model ini sangat terfokus pada pencapaian satu-satunya matlamat, iaitu menyelesaikan ujian ExploitGym, dan menggunakan cara-cara ekstrem untuk tujuan tersebut. Syarikat tidak mengungkap butiran kelemahan spesifik dalam blognya, juga tidak menjelaskan lingkungan akses data dan skala aset yang terjejas.
OpenAI menyebut insiden ini sebagai "belum pernah terjadi sebelumnya" dalam hal keselamatan siber, dengan alasan ia melibatkan kemampuan serangan siber paling canggih saat ini. Perusahaan menyatakan akan mengumumkan maklumat lanjut setelah penyiasatan bersama Hugging Face selesai.
Hugging Face telah memberitahu terlebih dahulu
Sebelum pengumuman OpenAI, Hugging Face telah memuatkan posting pada hari Kamis lepas, menyatakan bahawa syarikat itu mengalami serangan siber awal minggu ini dan menduga bahawa penyerang adalah agen AI yang beroperasi secara autonom. Pada masa itu, syarikat tersebut menyatakan bahawa siasatan terhadap sumber serangan masih sedang dijalankan.
Hugging Face juga menyatakan bahawa pasukan responsnya pada mulanya mencuba memanggil model AI yang tidak disebut namanya dari sebuah laboratorium terkemuka di Amerika Syarikat untuk pertahanan, tetapi hadapan jaringan model tersebut mempengaruhi kecekapan respons. Selepas itu, syarikat berpindah kepada model sumber terbuka Z.ai dari China untuk terlibat dalam pertahanan.
- Model yang terlibat termasuk GPT-5.6 Sol dan satu model yang belum dilancarkan
- Ujian rujukan adalah ExploitGym, penilaian keselamatan rangkaian awam
- OpenAI dan Hugging Face sedang menyiasat insiden tersebut secara bersama-sama
Maklumat tambahan: Ketua Eksekutif Hugging Face, Clem Delangue, dalam pernyataan yang diberikan kepada OpenAI, menyatakan bahawa insiden ini menunjukkan bahawa isu keselamatan AI sukar diselesaikan oleh satu syarikat sahaja dalam persekitaran tertutup, dan lebih memerlukan kerjasama terbuka serta akses kepada alat pertahanan yang lebih luas.