Nvidia dan beberapa perusahaan teknologi besar telah meluncurkan inisiatif safety initiative kecerdasan buatan baru yang berfokus pada peningkatan kemampuan keamanan model AI terbuka.
Inisiatif ini mengikuti serangan siber yang melibatkan model OpenAI yang dilaporkan menargetkan platform AI Hugging Face. Selama insiden tersebut, Hugging Face tidak dapat menggunakan model frontier AS terkemuka untuk mempertahankan sistemnya karena perlindungan keamanan bawaan tidak dapat secara andal membedakan antara aktivitas jahat dan pekerjaan siber pertahanan.
Sebaliknya, perusahaan dilaporkan beralih ke model terbuka China yang di-host sendiri dan tidak tunduk pada pembatasan yang sama.
Nvidia Mendukung Open Secure AI Alliance
Nvidia mengumumkan bahwa Open Secure AI Alliance akan mengembangkan dan membagikan teknologi terbuka yang dirancang untuk mengidentifikasi, mengungkap, dan memperbaiki kerentanan keamanan. Menurut Nvidia, insiden Hugging Face membuktikan bahwa tim keamanan siber memerlukan akses ke sistem AI agen tingkat terdepan yang terbuka untuk tujuan pertahanan.
(Sumber: Nvidia)
Aliansi ini mencakup Nvidia, Microsoft, SpaceX, Palantir, dan puluhan perusahaan teknologi lainnya dari Amerika Serikat dan Eropa. Anggota diharapkan untuk berkolaborasi dalam alat AI terbuka yang dapat mendukung penelitian keamanan siber dan memperkuat kemampuan organisasi dalam merespons serangan canggih.
Inisiatif ini juga dapat membantu mengurangi ketergantungan industri teknologi terhadap model AI terbuka berbobot Tiongkok.
Anggota Parlemen AS Mempertimbangkan Pembatasan pada Model AI Tiongkok
Aliansi yang didukung Nvidia muncul saat pembuat kebijakan AS mempertimbangkan langkah-langkah untuk membatasi penggunaan sistem AI Tiongkok.
Perusahaan AI Tiongkok telah menghadapi tuduhan menggunakan teknik distilasi untuk mengekstrak informasi dari model yang lebih canggih yang dikembangkan oleh pesaing AS. Distilasi umumnya melibatkan pelatihan satu model menggunakan output atau kemampuan sistem lain yang lebih kuat.
Menteri Keuangan AS Scott Bessent baru-baru ini memperingatkan bahwa perusahaan-perusahaan Tiongkok yang dituduh melakukan serangan distilasi tidak sah dapat menghadapi sanksi.
Para ahli percaya kemungkinan pembatasan dapat mencakup larangan perusahaan AS membeli akses ke model AI Tiongkok melalui antarmuka pemrograman aplikasi. Langkah-langkah tersebut juga dapat mencegah penyedia cloud Amerika menyelenggarakan model-model ini dan mengenakan biaya kepada pelanggan untuk menggunakannya.
Model AI Terbuka Menjadi Prioritas Keamanan
Pembatasan ketat dapat membantu mencegah model digunakan untuk serangan, tetapi juga dapat membatasi pekerjaan pertahanan yang sah. Insiden Hugging Face menunjukkan bahwa organisasi mungkin kesulitan melindungi diri mereka sendiri ketika model tertutup menolak permintaan terkait siber keamanan tanpa membedakan antara penyerang dan pembela.
Melalui aliansi baru ini, Nvidia dan mitra-mitranya berusaha membangun ekosistem terbuka di mana alat-alat keamanan AI canggih dapat dikembangkan, diuji, dan dibagikan secara lebih luas. Inisiatif ini dapat menjadi sangat penting ketika pemerintah mempertimbangkan pembatasan terhadap model-model Tiongkok dan perusahaan mencari alternatif yang aman yang dapat dihosting dan dikendalikan secara mandiri.