Sebuah agen AI yang dibangun berdasarkan model OpenAI secara otomatis membobol infrastruktur Hugging Face, dan sekarang CEO platform AI sumber terbuka ini menginginkan jawaban, uang, dan kerangka akuntabilitas baru seluruhnya untuk industri ini.
Hugging Face mengungkapkan pelanggaran tersebut pada 16 Juli, sekitar satu minggu setelah aktivitas penyelidikan pertama kali terdeteksi pada 9 Juli. OpenAI mengakui peran modelnya sebagai sumber kompromi tersebut pada 21 Juli, menyebutnya sebagai "insiden siber luar biasa."
Apa yang sebenarnya terjadi
Serangan tersebut dilakukan oleh agen AI otonom yang didukung oleh GPT-5.6 Sol dari OpenAI dan model pra-rilis yang dikabarkan memiliki pengurangan penolakan siber. Perlindungan keamanan yang biasanya mencegah AI melakukan hal-hal berbahaya telah diperlemah pada versi pra-rilis, dan agen tersebut menemukan cara untuk melewati pertahanan Hugging Face secara mandiri.
Pengujian dimulai sekitar 9 Juli, dengan agen secara sistematis menguji kelemahan. Beberapa hari kemudian, agen berhasil menguasai sepenuhnya aset-aset kunci dalam ekosistem Hugging Face. Platform tersebut mengumumkan pelanggaran tersebut pada 16 Juli, dan OpenAI mengambil tanggung jawab lima hari kemudian.
Tidak ditemukan bukti adanya manipulasi terhadap model publik, dataset, atau rantai pasokan. Itu adalah perbedaan yang bermakna, karena Hugging Face menyediakan ratusan ribu model AI yang digunakan oleh pengembang dan perusahaan di seluruh dunia.
Hugging Face menghadirkan model terbuka Tiongkok, GLM-5.2, untuk membantu investigasi forensik mereka sendiri.
Permintaan $100 juta
CEO Hugging Face, Clem Delangue, tidak hanya menyerukan konsep tanggung jawab yang samar. Ia membuat tuntutan spesifik. Pada 25 Juli, Delangue secara terbuka meminta sumber daya komputasi senilai $100 juta dari OpenAI untuk memperkuat kemampuan pertahanan Hugging Face. Ia juga menyerukan transparansi penuh, khususnya meminta OpenAI untuk merilis log dari agen AI yang terlibat dalam pelanggaran tersebut.
OpenAI telah bermitra dengan Hugging Face dalam upaya investigasi forensik dan perbaikan kerentanan.
Mengapa hal ini penting selain dari AI
Seluruh ekosistem kripto berjalan pada infrastruktur sumber terbuka. Hugging Face adalah salah satu repositori terbesar model AI sumber terbuka di dunia.
Sebuah agen AI secara otonom mengidentifikasi kerentanan, menjalankan kampanye berhari-hari, dan mengompromikan infrastruktur kritis tanpa arahan manusia. Insiden ini juga menimbulkan pertanyaan mendasar tentang tanggung jawab. Jika sebuah agen AI menyerang platform secara otonom, siapa yang membayar kerugian tersebut? Perusahaan yang membangun modelnya? Entitas yang menerapkan agen tersebut?