Irene Solaiman, Chief Policy Officer dan Senior Vice President of Strategy di Hugging Face, menyatakan dalam episode terbaru podcast《Equity》bahwa sifat-sifat yang membuat platform AI terbuka lebih bernilai—seperti akses terbuka dan data yang kaya—juga dapat membuatnya lebih rentan terhadap serangan peretas.
Dia menyebutkan bahwa serangan terhadap OpenCode pada Oktober adalah contoh terbaru. Serangan tersebut menargetkan kunci API pihak ketiga pengguna dan menyebabkan kerugian keuangan. Sebelumnya, pada musim panas tahun ini, terjadi insiden lain: sekelompok agen OpenAI menyusup ke Hugging Face, tampaknya berusaha menyembunyikan jejak setelah memperoleh jawaban atas evaluasi keamanan siber.
Risiko tidak hanya terbatas pada platform yang menyambut kontribusi dari komunitas terbuka. Senin, perusahaan rintisan infrastruktur AI Fireworks, yang membantu pengembang menjalankan dan melatih model AI terbuka, mengungkapkan bahwa penyerang mengakses sebagian bobot model, dataset, dan informasi tagihan pelanggan. Perusahaan sementara menonaktifkan beberapa fitur data mandiri selama penyelidikan. Solaiman menyatakan bahwa meskipun serangan ini belum tentu disebabkan oleh sifat terbuka Fireworks, hal ini menyoroti betapa banyak informasi berharga yang tersimpan secara terpusat di dalam penyedia infrastruktur AI.
Solaiman dalam acara "Equity" mengatakan: "Faktor-faktor yang membuat saya khawatir komunitas terbuka menjadi target serangan justru adalah alasan mengapa komunitas ini istimewa. Kami memang ingin tetap longgar. Kami ingin para penggemar biasa yang tinggal di ruang bawah tanah, bahkan tanpa latar belakang institusional, dapat berkontribusi."
Dia menambahkan dalam percakapan lain: "Anda ingin orang-orang dapat langsung mengirimkan pull request dan memungkinkan siapa pun tanpa latar belakang institusi yang valid untuk berpartisipasi... tetapi kemudian akan ada beberapa orang yang merusak segalanya dan menyeret orang lain ke dalam masalah."
Yang menarik perhatian penyerang bukan hanya mekanisme longgar ini. Sejumlah besar informasi yang dihosting di platform open source juga menjadikannya target. Solaiman mengatakan bahwa kelompok agen OpenAI menargetkan Hugging Face karena menyimpan kumpulan data evaluasi; sementara target OpenCode dalam kejadian ini adalah “kunci API pihak ketiga yang sangat menguntungkan”.
Solaiman mengatakan kepada TechCrunch: "Kombinasi keduanya membuat kami menjadi target utama." Ia juga menambahkan bahwa pada titik sekarang, ketika telah mendapatkan dukungan publik yang besar, open source "berpotensi benar-benar menyusut."
Baru-baru ini, banyak pihak dalam industri secara terbuka mendukung model AI terbuka, termasuk CEO NVIDIA, Jensen Huang. Semakin banyak pemerintah, perusahaan, dan startup yang bergantung pada model open-source untuk pengembangan.
Jadi, apa yang akan terlihat dari yang disebut penyusutan? Secara teori, ini bisa berarti membatasi siapa yang dapat mengunggah model atau dataset, memperkuat otentikasi, atau menambahkan tinjauan tambahan sebelum pengembang mengakses fitur tertentu. Meskipun langkah-langkah ini dapat melindungi platform dari serangan, mereka juga bisa membuat peneliti independen dan penggemar lebih sulit untuk berpartisipasi dalam komunitas yang sebelumnya bisa mereka ikuti.
Saat ini, Hugging Face berusaha menghindari jalan ini. Solaiman mengatakan perusahaan terus memperkuat alat pemantauan untuk mendeteksi aktivitas peretasan dan mengambil langkah-langkah mencegah serangan. Namun, ia menunjukkan bahwa pemeliharaan pemantauan memiliki biaya tinggi dan tidak semua platform mampu menanggungnya.
Dia berkata: "Manajemen token akses dulu menjadi salah satu alasan mengapa kelompok agen tersebut mendapatkan izin akses lebih tinggi, jadi sekarang kami lebih sering mengganti token-token tersebut dibanding sebelumnya. Kami juga memiliki kontrol jaringan yang lebih ketat sekarang."
Dengan kata lain, kredensial yang saat ini memberikan akses luas kepada administrator ke sistem Hugging Face akan lebih sering diganti, yang berarti masa berlaku token yang dicuri akan lebih singkat.
Bagian lain dari ekosistem sumber terbuka juga menghadapi kompromi keamanan serupa. GitHub, sebagai platform hosting proyek sumber terbuka terbesar di dunia, terus-menerus melawan upaya penyerang untuk menyisipkan kode jahat ke dalam proyek guna menyebarkan perangkat lunak jahat dengan cepat. Perusahaan ini telah mulai memperketat persyaratan keamanan untuk mempublikasikan paket ke npm registry, mencabut token otentikasi lama, dan membatasi masa berlaku token baru.
Insinyur GitHub yang bertanggung jawab atas keamanan rantai pasokan perangkat lunak, Zach Steindler, melalui email mengatakan kepada TechCrunch bahwa meskipun langkah-langkah keamanan mungkin mengganggu alur kerja yang sudah ada, platform dapat menjadi lebih aman tanpa secara mendasar membatasi partisipasi.
Steindler mengatakan: "Ini lebih tentang memperbaiki hal-hal yang memang tidak aman, bukan membatasi fitur." Ia menunjukkan bahwa skrip npm install telah ada selama bertahun-tahun, tetapi serangan terbaru menyoroti betapa berbahayanya hal tersebut. GitHub juga bekerja sama dengan OpenJS, sebuah organisasi nirlaba yang mengelola proyek open source JavaScript kritis, untuk bersama-sama mencari pendekatan yang lebih aman.
Steindler mengatakan logika yang sama juga berlaku untuk bagaimana tim keamanan mengalokasikan energi mereka: "Inti keamanan adalah memaksimalkan dampak dengan sumber daya yang kita miliki, dan saya lebih suka mengalokasikan sumber daya untuk menemukan perilaku mencurigakan dan kemampuan penahanan: kemampuan ini mencakup semua akun dan cara akses. Perilaku mencurigakan adalah perilaku mencurigakan, terlepas dari siapa yang melakukannya."