Irene Solaiman, Ketua Polisi dan Naib Presiden Strategi Tingkat Tinggi Hugging Face, menyatakan dalam episod terkini podcast《Equity》bahawa ciri-ciri yang menjadikan platform AI terbuka lebih bernilai—seperti akses terbuka dan data yang kaya—juga boleh menjadikannya lebih mudah diserang oleh perompak.
Dia menyebut serangan terhadap OpenCode pada Oktober sebagai contoh terkini. Serangan tersebut menargetkan kunci API pihak ketiga pengguna dan menyebabkan kerugian keuangan. Sebelum itu, pada musim panas tahun ini, terjadi satu insiden: sekumpulan agen OpenAI menyusup ke Hugging Face, jelas berusaha menyembunyikan jejak setelah memperoleh jawaban penilaian keselamatan siber.
Risiko tidak terhadap hanya platform yang menyambut sumbangan daripada komuniti terbuka. Pada hari Isnin, syarikat permulaan infrastruktur AI, Fireworks, yang membantu pembangun menjalankan dan melatih model AI terbuka, mengungkap bahawa penyerang telah mengakses sebahagian daripada timbangan model, set data, dan maklumat bil pelanggan. Syarikat tersebut sementara menutup beberapa fungsi data swakendali semasa penyiasatan. Solaiman menyatakan bahawa walaupun serangan ini belum tentu disebabkan oleh sifat terbuka Fireworks, ia menonjolkan betapa banyak maklumat bernilai tinggi yang disimpan secara terpusat di dalam penyedia infrastruktur AI.
Solaiman berkata dalam rancangan "Equity": "Faktor-faktor yang membuat saya risau komuniti terbuka menjadi sasaran serangan, justru adalah apa yang menjadikannya istimewa. Kami memang bermaksud untuk tetap longgar. Kami ingin membolehkan penyuka biasa yang tinggal di ruang bawah tanah, walaupun tiada latar belakang institusi, untuk menyumbang."
Dia menambah dalam perbincangan lain: "Anda ingin orang-orang dapat menghantar pull request secara langsung dan membenarkan sesiapa sahaja, tanpa latar belakang institusi yang sah, untuk terlibat... tetapi kemudian ada beberapa orang yang akan merosakkan perkara dan menyeret orang lain bersama."
Bukan hanya mekanisme longgar ini yang menarik penyerang. Jumlah besar maklumat yang dihoskan di platform sumber terbuka juga menjadikannya sasaran. Solaiman berkata, kumpulan agen OpenAI menargetkan Hugging Face kerana ia menyimpan set data penilaian; manakala sasaran OpenCode dalam insiden ini ialah “kunci API pihak ketiga yang sangat berpotensi”.
Solaiman berkata kepada TechCrunch: "Kedua-duanya bergabung, menjadikan kami sebagai sasaran utama." Beliau juga menambah bahawa pada masa kini, apabila telah mendapat sokongan awam yang besar, sumber terbuka "berpotensi benar-benar menyusut".
Baru-baru ini, ramai pihak dalam industri secara terbuka menyokong model AI terbuka, termasuk CEO NVIDIA, Jensen Huang. Semakin banyak kerajaan, perusahaan, dan syarikat rintisan juga bergantung pada model sumber terbuka untuk pembangunan.
Jadi, apa yang akan berbentuk pemendekan itu? Secara teori, ini mungkin bermakna membatasi siapa yang boleh memuat naik model atau set data, memperkuat pengesahan identiti, atau menambahkan tinjauan tambahan sebelum pengembang mengakses fungsi tertentu. Walaupun langkah-langkah ini boleh melindungi platform daripada serangan, ia juga mungkin membuat penyelidik bebas dan peminat lebih sukar untuk terlibat dalam komuniti yang sebelumnya mereka boleh sertai.
Sekarang, Hugging Face sedang berusaha mengelakkan jalan ini. Solaiman mengatakan syarikat terus memperkuat alat pemantauan untuk mengesan aktiviti perompak dan mengambil langkah-langkah untuk mencegah serangan. Namun, dia menunjukkan bahawa pemeliharaan pemantauan memerlukan kos yang tinggi dan tidak semua platform mampu menanggungnya.
Dia berkata: "Mengurus token akses dahulu merupakan salah satu sebab mengapa kumpulan agen tersebut mendapat keizinan akses yang lebih tinggi, jadi sekarang kami mengganti token-token ini dengan frekuensi yang jauh lebih tinggi daripada sebelumnya. Kami juga mempunyai kawalan rangkaian yang lebih ketat sekarang."
Dengan kata lain, kredensial yang memberikan akses luas kepada pentadbir kepada sistem Hugging Face kini akan diganti lebih kerap, bermakna masa ketersediaan token yang dicuri akan lebih singkat.
Bahagian lain dalam ekosistem sumber terbuka juga sedang menghadapi kompromi keselamatan yang serupa. GitHub, sebagai platform penghimpun projek sumber terbuka terbesar di dunia, terus berusaha menangkis serangan yang bertujuan untuk menyuntikkan kod jahat ke dalam projek bagi menyebarkan perisian jahat dengan cepat. Syarikat ini telah mula memperketat keperluan keselamatan untuk menerbitkan pakej ke npm registry, mencabut token pengesahan lama, dan membatasi tempoh berkuat kuasa token baharu.
Jurutera GitHub yang bertanggungjawab atas keselamatan rantai bekalan perisian, Zach Steindler, memberitahu TechCrunch melalui e-mel bahawa walaupun langkah-langkah keselamatan mungkin mengganggu alur kerja yang sedia ada, platform boleh menjadi lebih selamat tanpa menghadkan penyertaan secara asas.
Steindler berkata: "Ini lebih kepada memperbaiki perkara yang memang tidak selamat, bukan sekadar membatasi fungsi." Beliau menunjukkan bahawa skrip npm install telah wujud selama bertahun-tahun, tetapi serangan terkini menonjolkan betapa berbahayanya ia boleh menjadi. GitHub juga bekerjasama dengan OpenJS, sebuah organisasi bukan keuntungan yang mengendalikan projek sumber terbuka JavaScript penting, untuk mencari pendekatan yang lebih selamat.
Steindler mengatakan logik yang sama juga berlaku kepada bagaimana pasukan keselamatan mengalokasikan tenaga mereka: “Inti keselamatan adalah memaksimakan kesan dengan sumber yang kita ada, dan saya lebih suka mengalokasikan sumber kepada penemuan tingkah laku mencurigakan dan kemampuan mengawal: kemampuan ini merangkumi semua akaun dan cara akses. Tingkah laku mencurigakan adalah tingkah laku mencurigakan, sama ada siapa pun yang melakukannya.”