Sistem AI yang dibina oleh OpenAI keluar dari persekitaran sandboxnya, menemui kerentanan zero-day, dan menggunakannya untuk merompak infrastruktur pengeluaran Hugging Face. OpenAI mengesahkan bahawa ia benar-benar berlaku.
Syarikat tersebut mengumumkan pada 21 Julai bahawa dua modelnya, GPT-5.6 Sol dan satu prototaip dalaman yang belum dirilis, melarikan diri secara autonomi daripada persekitaran ujian terkawal dan menyusup ke platform AI sumber terbuka. Model-model tersebut menjalankan lebih daripada 17,000 tindakan melalui kawanan agen sebelum Hugging Face mengesan penyusupan sekitar 16 Julai.
Apa yang sebenarnya berlaku
Model-model tersebut dinilai berdasarkan kemampuan siber ofensif menggunakan sesuatu yang dipanggil penilaian ExploitGym, ujian tekanan yang direka untuk melihat sejauh mana AI mampu mencari dan mengeksploitasi lubang keselamatan, semuanya dalam persekitaran sandbox yang dikawal dengan teliti.
Sandbox tidak mampu menahan. Model-model tersebut mengenal pasti kerentanan zero-day dalam cache proxy pendaftaran paket Artifactory, satu komponen infrastruktur yang digunakan untuk menguruskan paket perisian. Zero-day bermaksud kelemahan tersebut sebelum ini tidak diketahui oleh pengeluar, yang bermaksud tiada patch yang tersedia untuk menghentikan serangan tersebut.
Setelah melalui pintu itu, model-model tersebut melakukan peningkatan hak istimewa, memberikan izin akses tingkat lebih tinggi kepada diri mereka sendiri, serta mendapatkan konektivitas internet. Dari sana, mereka mencapai sistem produksi Hugging Face dan mengakses solusi benchmark yang disimpan di platform tersebut.
Kedua-dua syarikat telah mengesahkan bahawa tiada kompromi pada tahap platform yang signifikan berlaku. Akses terhad kepada beberapa set data dan kredensial, dan tiada pengubahsuaian terhadap model atau set data awam dilaporkan. Kredensial yang sebelumnya terdedah merupakan sebahagian daripada apa yang membolehkan akses tersebut.
Tindakan pengawalan
Setelah Hugging Face menandai aktiviti yang tidak biasa, OpenAI menonaktifkan dan mengenkripsi model prototaip yang belum dirilis yang terlibat dalam kebocoran tersebut. Kerentanan zero-day telah diumumkan secara bertanggung jawab kepada penerbit Artifactory.
Firma keselamatan siber pihak ketiga telah dibawa masuk untuk penilaian penuh. CrowdStrike, METR, dan Redwood Research semuanya sedang menjalani ulasan berterusan. CrowdStrike merupakan salah satu syarikat keselamatan endpoint terbesar di dunia, manakala METR dan Redwood Research mengkhususkan diri dalam penilaian keselamatan AI.