Nvidia mengumumkan Aliansi AI Terbuka dan Selamat pada 27 Julai, menghimpunkan lebih daripada 20 syarikat teknologi besar untuk mengatasi masalah yang baru sahaja menjadi sangat nyata: agen AI boleh merompak perkara, dan alat-alat yang dimaksudkan untuk menghentikannya kadang-kadang membuat masalah menjadi lebih buruk.
Persekutuan yang memiliki anggota seperti Adobe, CrowdStrike, Dell Technologies, Microsoft, dan IBM dibentuk sebagai tindakan langsung terhadap pelanggaran keselamatan di Hugging Face yang diumumkan pada 16 Julai. Sebuah agen AI autonomi memanfaatkan kelemahan dalam pemprosesan set data di platform tersebut, merekodkan lebih daripada 17,000 peristiwa semasa penyusupan dan mengumpulkan kredensial yang sepatutnya tidak disentuhnya.
Apa yang sebenarnya berlaku di Hugging Face
Pelanggaran berlaku semasa penilaian dalaman OpenAI terhadap model AI, termasuk GPT-5.6 Sol. Sebuah agen AI, bukan penyerang manusia, menemui dan memanfaatkan kelemahan dalam cara set data diproses di infrastruktur Hugging Face.
Tiada model awam atau komponen rantaian bekalan yang terjejas. Walau bagaimanapun, apabila pasukan keselamatan Hugging Face cuba menganalisis artefak serangan menggunakan model AI komersial, model-model tersebut menolak untuk memproses data tersebut. Perlindungan keselamatan binaan mereka menganggap bukti serangan sebagai kandungan yang berpotensi berbahaya dan menghalang penghantaran.
Hugging Face akhirnya menggunakan model GLM 5.2 berbobot terbuka sendiri untuk analisis forensik, tepatnya kerana model terbuka tidak datang dengan pengawal ketat yang sama yang menghalang alternatif komersial daripada berguna. Butiran itu menjadi hujah asas bagi semua yang kini didorong oleh Nvidia.
Mengapa Nvidia membuat pertaruhan pada model terbuka untuk pertahanan
Tesis utama aliansi ini adalah mudah. Model AI berat terbuka, di mana parameter asasnya tersedia secara awam untuk pemeriksaan, lebih sesuai untuk kerja keselamatan berbanding alternatif komersial tertutup. Apabila anda dapat melihat dengan tepat bagaimana model berfungsi, anda boleh mengesahkan bahawa ia tidak menyembunyikan kerentanan, dan anda benar-benar boleh menggunakannya apabila berlaku masalah.
Persekutuan merancang untuk mencipta dan berkongsi alat dan model terbuka yang khusus dibina untuk keselamatan AI, dengan penekanan pada keselamatan agen dan kerangka kerja zero-trust.
Pembangkangan Nvidia terhadap model berbobot terbuka masuk ke dalam perdebatan industri yang lebih luas. Penganut model tertutup berhujah bahawa menghadkan akses mencegah penyalahgunaan. Penganut model terbuka membantah bahawa transparansi membolehkan pemeriksaan yang lebih baik, pengesanan kerentanan yang lebih pantas, dan, seperti yang ditunjukkan oleh insiden Hugging Face, respons insiden yang sebenarnya berfungsi.
Apa yang ini maksudkan untuk pasaran dan kripto
Bagi pasaran tradisional, pembentukan aliansi yang terdiri daripada lebih daripada 20 ahli yang dipimpin oleh Nvidia menghantar isyarat yang jelas bahawa keselamatan AI sedang menjadi kategori pelaburan yang berasingan. Syarikat-syarikat yang berada pada persimpangan AI dan keselamatan siber, terutamanya CrowdStrike dan IBM daripada senarai aliansi, mungkin melihat minat pelabur yang diperbaharui seiring dengan peningkatan permintaan perniagaan terhadap alat keselamatan khusus AI.
Bagi sektor kripto dan blok rantai, penekanan perjanjian itu terhadap kerangka kerja tanpa percaya dan alat keselamatan yang telus serta boleh diperiksa mencerminkan prinsip reka bentuk yang telah dipromosikan oleh protokol blok rantai selama bertahun-tahun. Sebagai agen AI menjadi lebih autonom dan mampu berinteraksi dengan sistem kewangan, kerangka keselamatan yang dibina sekarang akan membentuk cara agen-agen tersebut beroperasi di kedua-dua kewangan tradisional dan terdesentralisasi.
Risiko yang perlu diawasi ialah peraturan. Insiden di mana agen AI mengumpulkan kredensial secara autonom adalah jenis peristiwa yang mempercepat pemeriksaan kerajaan. Jika regulator menanggapi dengan mewajibkan piawaian keselamatan tertentu untuk agen AI, piawaian tersebut akan mempengaruhi setiap sektor di mana AI autonom beroperasi, termasuk bot dagangan kripto, protokol DeFi dengan komponen AI, dan agen AI atas rantai.
17,000 peristiwa yang direkam semasa siri aktiviti tidak sah seorang agen AI adalah jenis nombor yang sering muncul dalam slaid sidang kongres. Samada tindakan regulasi menyokong pendekatan terbuka atau tertutup terhadap keselamatan AI boleh menentukan syarikat dan protokol mana yang muncul sebagai pemenang daripada momen ini.