Sumber: Wall Street Journal
Sebuah perusahaan Amerika Serikat diserang oleh AI Amerika Serikat, sementara perlindungan justru diberikan oleh alat kecerdasan buatan Tiongkok.
Platform alat AI Hugging Face diserang oleh model OpenAI minggu lalu. Mengingat banyaknya peringatan saat ini tentang risiko penggunaan produk AI Tiongkok oleh perusahaan Amerika, pengungkapan insiden ini mungkin menghasilkan kesimpulan yang mengejutkan.
Hugging Face telah mengungkap serangan ini minggu lalu, saat itu belum diketahui bahwa model OpenAI adalah pelakunya. Baru pada hari Selasa, OpenAI mengakui bahwa mereka yang menyebabkan serangan ini.
OpenAI menyatakan bahwa dalam sebuah evaluasi internal yang membatasi akses jaringan, model menemukan kerentanan di lingkungan penelitian OpenAI dan infrastruktur produksi Hugging Face. Model tersebut memanfaatkan celah tersebut untuk terhubung ke internet dan mendapatkan jawaban ujian, dengan kata lain, ia menipu selama evaluasi.
OpenAI menyatakan dalam pernyataannya: “Saat dijalankan di lingkungan pengujian sandbox, model kami mengonsumsi sejumlah besar daya inferensi untuk mencari cara mengakses internet terbuka demi menyelesaikan masalah evaluasi. Untuk mendapatkan akses, model-model ini menemukan dan memanfaatkan kerentanan nol-hari di proxy cache registri paket (yang telah kami laporkan secara bertanggung jawab kepada pemasok saat ini). Dengan akses ini, model melakukan serangkaian operasi peningkatan izin dan perpindahan lateral di lingkungan pengujian penelitian hingga mencapai sebuah node yang memiliki akses ke internet.”
Model ini mencari dan berhasil menemukan cara untuk mendapatkan informasi rahasia, sehingga dapat memanfaatkannya untuk curang dalam evaluasi. Dalam salah satu kasus, model menggabungkan beberapa vektor serangan, termasuk memanfaatkan kredensial yang dicuri dan kerentanan nol-hari, untuk menemukan jalur eksekusi kode jarak jauh di server Hugging Face.
Namun, Hugging Face mengambil tindakan dengan meminta bantuan dari model AI Tiongkok bernama GLM 5.2, yang dikembangkan oleh 智谱 (Z.AI).
Hugging Face menyatakan dalam pernyataannya: "Saat memulai analisis log, kami awalnya menggunakan model canggih di balik API komersial. Namun ini tidak berhasil: analisis memerlukan pengiriman sejumlah besar perintah serangan nyata, payload eksploitasi, dan jejak C2, tetapi semua permintaan ini diblokir oleh perlindungan keamanan penyedia, karena perlindungan tersebut tidak dapat membedakan antara petugas respons insiden dan penyerang. Oleh karena itu, kami beralih ke model open-weight GLM 5.2 di infrastruktur kami sendiri untuk analisis forensik. Ini juga membawa manfaat tambahan: tidak ada data penyerang atau kredensial yang dirujuknya yang pernah meninggalkan lingkungan kami."
Media AS menyatakan bahwa dampak serangan ini terhadap kebijakan dan pasar masih belum jelas. Meskipun pemerintahan Trump baru-baru ini membahas kemungkinan tindakan untuk melarang model-model Tiongkok, bahkan Menteri Keuangan Bessent membandingkan penggunaan model-model ini oleh perusahaan Amerika dengan menggunakan barang curian, saat ini hanya model-model Tiongkok yang dapat menyediakan tingkat akses bebas yang dibutuhkan pengguna.
Pendiri Hugging Face, Thomas Wolf, mengunggah di platform X: "Ketika sebuah model mutakhir menyerang Anda dan bergerak secara lateral di dalam infrastruktur Anda, petugas pertahanan perlu mendapatkan akses luas ke alat-alat terdepan dalam hitungan jam atau bahkan menit, bukan diarahkan ke prosedur permohonan akses model yang tertutup dan memerlukan tinjauan."
Twitter：https://twitter.com/BitpushNewsCN
Grup diskusi TG BitPush: https://t.me/BitPushCommunity
Langganan TG BitPush: https://t.me/bitpush