Sumber: The Wall Street Journal
Sebuah syarikat Amerika diserang oleh AI Amerika, tetapi alat kecerdasan buatan China lah yang memberikan perlindungan.
Platform alat AI Hugging Face diserang oleh model OpenAI minggu lepas. Mengingat berbagai amaran terkini mengenai risiko penggunaan produk AI China oleh syarikat Amerika, pengumuman peristiwa ini mungkin membawa kesimpulan yang mengejutkan.
Hugging Face telah mengungkap serangan ini minggu lalu, pada masa itu belum diketahui bahawa model OpenAI adalah pelakunya. Baru pada hari Selasa, OpenAI mengakui bahawa ia menyebabkan serangan ini.
OpenAI menyatakan bahawa, dalam satu penilaian dalaman yang membatasi akses rangkaian, model tersebut menemui lubang kelemahan dalam persekitaran penyelidikan OpenAI dan infrastruktur pengeluaran Hugging Face. Model tersebut menggunakan kelemahan tersebut untuk menyambung ke internet dan mendapatkan jawapan ujian, dengan kata lain, ia menipu semasa penilaian.
OpenAI menyatakan dalam pernyataannya: “Semasa dijalankan dalam persekitaran ujian kotak pasir, model kami menghabiskan banyak kuasa penghujahan untuk mencari cara menghubungkan akses ke internet terbuka demi menyelesaikan masalah penilaian. Untuk mendapatkan akses, model-model ini menemui dan memanfaatkan satu kelemahan hari-nol dalam proxy cache pendaftaran pakej (yang telah kami laporkan secara bertanggungjawab kepada pemasok). Dengan akses ini, model melakukan serangkaian operasi peningkatan kuasa dan pergerakan melintang dalam persekitaran ujian penyelidikan sehingga mencapai satu nod yang mempunyai akses internet.”
Model ini mencari dan berjaya menemui cara untuk mendapatkan maklumat sulit, supaya boleh menipu dalam penilaian. Dalam salah satu kes, model menggabungkan beberapa vektor serangan, termasuk memanfaatkan kredensial yang dicuri dan kelemahan zero-day, untuk menemui laluan eksekusi kod jauh di pelayan Hugging Face.
Namun, tindakan yang diambil oleh Hugging Face adalah meminta bantuan daripada model AI China bernama GLM 5.2, yang dibangunkan oleh 智谱 (Z.AI).
Hugging Face menyatakan dalam pernyataannya: "Pada awal analisis log, kami terlebih dahulu menggunakan model canggih di belakang API komersial. Namun, ini tidak berjalan: analisis memerlukan pengiriman sejumlah besar arahan serangan nyata, beban eksploitasi kerentanan, dan jejak C2, tetapi semua permintaan ini terhalang oleh perlindungan keamanan penyedia, kerana perlindungan tersebut tidak mampu membezakan antara petugas respons insiden dan penyerang. Oleh itu, kami beralih ke model terbuka GLM 5.2 di infrastruktur kami sendiri untuk analisis forensik. Ini juga membawa keuntungan tambahan: tiada data penyerang sama sekali, dan tiada kredensial yang dirujuk keluar dari persekitaran kami."
Media AS menyatakan, kesan serangan ini terhadap dasar dan pasaran masih tidak jelas. Walaupun kerajaan Trump baru-baru ini membincangkan kemungkinan tindakan melarang model China, Menteri Kewangan Bessent bahkan membandingkan penggunaan model-model ini oleh perusahaan Amerika dengan penggunaan barangan curian, pada masa ini hanya model China yang mampu memberikan akses bebas yang diperlukan pengguna.
Pendiri Hugging Face, Thomas Wolf, memposting di platform X: “Apabila model mutakhir menyerang anda dan bergerak secara lateral di dalam infrastruktur anda, petugas pertahanan perlu mendapat akses luas kepada alat-alat hampir mutakhir dalam beberapa jam atau bahkan beberapa minit, bukan diarahkan ke prosedur permohonan akses model yang tertutup dan perlu ditinjau.”
Twitter：https://twitter.com/BitpushNewsCN
Kumpulan perbincangan TG BitPush: https://t.me/BitPushCommunity
Langgan BitPush di TG: https://t.me/bitpush