Nvidia dan beberapa syarikat teknologi utama telah melancarkan inisiatif safety initiative kecerdasan buatan baharu yang berfokus pada peningkatan kemampuan keselamatan model AI terbuka.
Inisiatif ini mengikuti serangan siber yang melibatkan model OpenAI yang dilaporkan menargetkan platform AI Hugging Face. Semasa insiden berlaku, Hugging Face tidak mampu menggunakan model terkemuka AS untuk mempertahankan sistemnya kerana palang keselamatan binaan tidak mampu membezakan dengan boleh dipercayai antara aktiviti jahat dan kerja keselamatan siber pertahanan.
Sebaliknya, syarikat itu dilaporkan beralih kepada model terbuka Cina yang diselenggarakan sendiri dan tidak tertakluk kepada sekatan yang sama.
Nvidia Menyokong Aliansi AI Terbuka dan Selamat
Nvidia mengumumkan bahawa Open Secure AI Alliance akan membangunkan dan berkongsi teknologi terbuka yang direka untuk mengenal pasti, mengungkap, dan memperbaiki kelemahan keselamatan. Menurut Nvidia, insiden Hugging Face membuktikan bahawa pasukan keselamatan siber memerlukan akses kepada sistem AI agen tahap terdepan yang terbuka untuk tujuan pertahanan.
(Sumber: Nvidia)
Persekutuan ini merangkumi Nvidia, Microsoft, SpaceX, Palantir dan puluhan syarikat teknologi lain dari Amerika Syarikat dan Eropah. Ahli-ahli dijangka bekerjasama dalam alat AI terbuka yang boleh menyokong penyelidikan keselamatan siber dan memperkuatkan keupayaan organisasi untuk menanggapi serangan canggih.
Inisiatif ini juga boleh membantu mengurangkan ketergantungan industri teknologi terhadap model AI terbuka China.
Ahli Parlimen AS Mengkaji Sekatan Terhadap Model AI China
Persekutuan yang disokong oleh Nvidia muncul semasa pembuat dasar AS mempertimbangkan langkah-langkah untuk membatasi penggunaan sistem AI Cina.
Syarikat AI Cina telah menghadapi dakwaan menggunakan teknik distilasi untuk mengekstrak maklumat daripada model yang lebih canggih yang dibangunkan oleh pesaing AS. Distilasi biasanya melibatkan pelatihan satu model menggunakan output atau kemampuan sistem lain yang lebih kuat.
Menteri Kewangan AS Scott Bessent baru-baru ini memperingatkan bahawa syarikat China yang dituduh melakukan serangan penyulingan tidak sah boleh menghadapi sanksi.
Pakar percaya bahawa sekatan yang mungkin termasuk larangan syarikat AS membeli akses kepada model AI Cina melalui antaramuka pemrograman aplikasi. Langkah-langkah juga boleh mencegah penyedia awan Amerika daripada menghoskan model-model ini dan mengenakan bayaran kepada pelanggan untuk menggunakannya.
Model AI Terbuka Menjadi Keutamaan Keselamatan
Pengawalan ketat boleh membantu mencegah model digunakan untuk serangan, tetapi ia juga mungkin membatasi kerja pertahanan yang sah. Insiden Hugging Face menunjukkan bahawa organisasi mungkin mengalami kesukaran untuk melindungi diri mereka sendiri apabila model tertutup menolak permintaan berkaitan siber keselamatan tanpa mengenali perbezaan antara penyerang dan pembela.
Melalui perjanjian baharu ini, Nvidia dan rakan-rakannya berusaha membina sebuah ekosistem terbuka di mana alat-alat keselamatan AI canggih boleh dibangunkan, diuji, dan dikongsi secara lebih luas. Inisiatif ini mungkin menjadi sangat penting apabila kerajaan-kerajaan mempertimbangkan sekatan terhadap model China dan perniagaan mencari alternatif selamat yang boleh dihos dan dikawal secara bebas.