Berikut adalah senario yang terus-menerus keluar dari mimpi buruk keselamatan siber: agen AI autonomi menembusi infrastruktur pengeluaran anda, bergerak liar sepanjang hujung minggu, dan apabila pasukan respons insiden anda akhirnya cuba menggunakan alat AI untuk mengetahui apa yang berlaku, alat-alat tersebut menolak bekerjasama. Itulah tepatnya apa yang berlaku kepada Hugging Face.
Pusat model AI mengumumkan pada 16 Julai bahawa ia mengalami serangan canggih di mana seorang penyerang agen, bermaksud sistem AI yang beroperasi secara autonomi dari awal hingga akhir, memanfaatkan dua kerentanan pelaksanaan kod dalam saluran pemprosesan data syarikat. Penyerang tersebut mengumpul kredensial, bergerak secara melintang melalui sistem pengeluaran, dan melaksanakan lebih daripada 17,000 tindakan di seluruh sandbox sementara sebelum ada yang memperhatikan.
Apabila pertahanan anda menolak untuk mempertahankan
Pasukan respons insiden Hugging Face meminta bantuan model AI terkini, termasuk GPT dan Claude, untuk menganalisis data eksploit. Kedua-duanya menolak. Perlindungan keselamatan komersial mereka menganggap soalan forensik sah pasukan IR sebagai arahan serangan, dan menghalang setiap permintaan.
Hugging Face akhirnya membaiki kelemahan pokok dan mengawal serangan tersebut, tetapi insiden ini merupakan kes pertama yang didokumenkan secara awam mengenai serangan AI autonomi end-to-end terhadap infrastruktur pengeluaran utama.
Mengapa kripto perlu diperhatikan
Hugging Face ialah pasaran model AI sumber terbuka terbesar di dunia. Ia mengendalikan model, set data, dan alat yang menjadi tenaga kepada sejumlah semakin banyak projek yang berkaitan dengan kripto, daripada rangkaian pengiraan AI terdesentralisasi hingga protokol inferens dalam rantai. Jika agen autonom boleh mengompromikan saluran Hugging Face melalui set data jahat, setiap projek seterusnya yang mengambil dari ekosistem ini akan mewarisi risiko tersebut.
Platform AI terdesentralisasi seperti Bittensor dan Fetch.ai yang bergantung pada repositori model terbuka menghadapi jenis risiko rantai pasokan yang ditunjukkan di sini: dataset diracun yang memanfaatkan kerentanan pemprosesan.
Masalah pagar keselamatan adalah masalah semua orang
GPT milik OpenAI dan Claude milik Anthropic adalah dua model hadapan yang paling banyak digunakan dalam pengaturan perusahaan. Jika kedua-duanya menolak memproses data forensik yang sah kerana penapis keselamatan mereka tidak mampu membezakan antara seorang pembela yang menganalisis eksploit dan seorang penyerang yang menghasilkannya, itu adalah kerentanan sistemik yang tertanam dalam lapisan infrastruktur keselamatan AI moden.
Syarikat-syarikat seperti Chainalysis, Elliptic, dan pelbagai perniagaan forensik atas rantai semakin mengintegrasikan LLM ke dalam alur kerja analisis mereka. Jika model-model tersebut menolak memproses data transaksi yang berkaitan dengan eksploitasi atau alamat hack yang diketahui kerana soalan itu kelihatan terlalu seperti arahan untuk mencucikan dana, keseluruhan rantai analisis forensik akan rosak.
Lebih daripada 17,000 tindakan yang dilaksanakan oleh agen autonomi di dalam sandbox sementara mengungkapkan jurang kecanggihan yang penting. Pemantauan keselamatan tradisional mencari petunjuk kekompromisan yang kekal: fail yang diubah, sambungan rangkaian yang tidak biasa, atau corak log masuk yang mencurigakan. Sebuah agen yang beroperasi di dalam persekitaran sementara hampir tidak meninggalkan jejak tradisional.