Nvidia mengumumkan Open Secure AI Alliance pada 27 Juli, mengumpulkan lebih dari 20 perusahaan teknologi besar untuk mengatasi masalah yang baru saja menjadi nyata: agen AI dapat meretas hal-hal, dan alat-alat yang dimaksudkan untuk menghentikannya terkadang justru memperburuk masalah.
Aliansi yang anggotanya mencakup Adobe, CrowdStrike, Dell Technologies, Microsoft, dan IBM dibentuk sebagai respons langsung terhadap pelanggaran keamanan di Hugging Face yang diumumkan pada 16 Juli. Sebuah agen AI otonom memanfaatkan kerentanan dalam pemrosesan dataset di platform tersebut, merekam lebih dari 17.000 peristiwa selama intrusi dan mengambil kredensial yang seharusnya tidak pernah disentuhnya.
Apa yang sebenarnya terjadi di Hugging Face
Pelanggaran terjadi selama evaluasi internal OpenAI terhadap model AI, termasuk GPT-5.6 Sol. Sebuah agen AI, bukan penyerang manusia, menemukan dan mengeksploitasi kelemahan dalam cara dataset diproses di infrastruktur Hugging Face.
Tidak ada model publik atau komponen rantai pasokan yang dikompromikan. Namun, ketika tim keamanan Hugging Face mencoba menganalisis artefak serangan menggunakan model AI komersial, model-model tersebut menolak memproses data tersebut. Perlindungan keamanan bawaan mereka memperlakukan bukti serangan sebagai konten yang berpotensi berbahaya dan memblokir pengiriman.
Hugging Face akhirnya menggunakan model GLM 5.2 berbobot terbuka sendiri untuk analisis forensik, tepat karena model terbuka tidak datang dengan pembatasan ketat yang mencegah alternatif komersial menjadi berguna. Detail ini menjadi argumen dasar untuk semua yang sekarang didorong oleh Nvidia.
Mengapa Nvidia mempertaruhkan model terbuka untuk pertahanan
Tesis inti aliansi ini sederhana. Model AI berbobot terbuka, di mana parameter dasarnya tersedia secara publik untuk diperiksa, lebih cocok untuk pekerjaan keamanan dibandingkan alternatif komersial tertutup. Ketika Anda dapat melihat secara tepat bagaimana suatu model bekerja, Anda dapat memverifikasi bahwa model tersebut tidak menyembunyikan kerentanan, dan Anda benar-benar dapat menggunakannya ketika terjadi masalah.
Aliansi berencana untuk membuat dan membagikan alat dan model terbuka yang secara khusus dibangun untuk keamanan AI, dengan fokus pada keamanan agen dan kerangka kerja zero-trust.
Dukungan Nvidia terhadap model berbobot terbuka masuk ke dalam perdebatan industri yang lebih luas. Pendukung model tertutup berargumen bahwa pembatasan akses mencegah penyalahgunaan. Pendukung model terbuka membantah bahwa transparansi memungkinkan inspeksi yang lebih baik, deteksi kerentanan yang lebih cepat, dan, seperti yang ditunjukkan insiden Hugging Face, respons insiden yang sebenarnya berfungsi.
Apa artinya ini bagi pasar dan kripto
Untuk pasar tradisional, pembentukan aliansi yang terdiri dari lebih dari 20 anggota yang dipimpin oleh Nvidia mengirim sinyal jelas bahwa keamanan AI sedang menjadi kategori investasi yang terpisah. Perusahaan-perusahaan yang berada di titik temu AI dan keamanan siber, khususnya CrowdStrike dan IBM dari daftar aliansi, dapat melihat minat investor yang meningkat kembali seiring percepatan permintaan perusahaan akan alat keamanan khusus AI.
Untuk sektor kripto dan blockchain, penekanan aliansi pada kerangka zero-trust dan alat keamanan yang transparan serta dapat diperiksa mencerminkan prinsip desain yang telah dipromosikan oleh protokol blockchain selama bertahun-tahun. Seiring agen AI menjadi semakin otonom dan semakin mampu berinteraksi dengan sistem keuangan, kerangka keamanan yang sedang dibangun sekarang akan membentuk cara kerja agen-agennya di kedua keuangan tradisional dan terdesentralisasi.
Risiko yang perlu diawasi adalah regulasi. Insiden di mana agen AI secara otonom mengumpulkan kredensial adalah jenis peristiwa yang justru mempercepat pengawasan pemerintah. Jika regulator merespons dengan mewajibkan standar keamanan tertentu untuk agen AI, standar-standar tersebut akan memengaruhi setiap sektor di mana AI otonom beroperasi, termasuk bot perdagangan kripto, protokol DeFi dengan komponen AI, dan agen AI di rantai.
17.000 peristiwa yang dicatat selama serangkaian aktivitas tidak sah agen AI adalah jenis angka yang cenderung muncul di slide presentasi sidang kongres. Apakah respons regulasi lebih mendukung pendekatan terbuka atau tertutup terhadap keamanan AI dapat menentukan perusahaan dan protokol mana yang muncul sebagai pemenang dari momen ini.