Pejabat Putih Putih sedang berbincang dengan syarikat AI Anthropic mengenai satu kerangka penilaian keselamatan model, dengan matlamat untuk membina kaedah pengelasan seragam bagi kelemahan keselamatan model AI generasi baru, dan seterusnya menentukan sama ada kerajaan perlu campur tangan. Perkara ini berlaku selepas Amerika Syarikat sebelum ini mengenakan sekatan eksport terhadap model terkini Anthropic akibat satu isu keselamatan yang dianggap sebagai “pelarian”.
Membina piawaian seragam berdasarkan lubang "jailbreak"
Laporan menyatakan bahawa kerangka ini akan digunakan untuk menilai keparahan peristiwa serupa di masa depan, dengan fokus kepada tiga perkara utama: sejauh mana langkah-langkah perlindungan telah dilanggar, kemampuan model yang terdedah, dan kesan lubang keamanan dalam dunia nyata.
Sekarang, perbezaan antara kerajaan dan perusahaan mengenai isu semacam ini masih jelas. Sebelum ini, CEO Anthropic, Dario Amodei, dan pegawai kerajaan mempunyai penilaian yang berbeza mengenai sama ada lubang berkaitan merupakan isu keselamatan serius. Laporan itu menunjukkan bahawa kemajuan teknologi AI terlalu pantas, dan sistem semasa kerajaan belum mampu membuat penilaian yang konsisten terhadap perbezaan semacam ini.
Perbincangan terus berjalan selepas sekatan eksport
Sebelum ini, Gedung Putih telah mengenakan sekatan eksport terhadap Anthropic, melarang pengguna luar negara mengakses model terbaharu mereka, Fable 5 dan Mythos 5. Syarikat kemudian menghentikan perkhidmatan luar bagi kedua-dua model tersebut.
Laporan tersebut menyebut bahawa perbincangan antara kedua-dua belah hampir gagal pada hari Jumaat lepas. Penyebabnya ialah Anthropic menolak untuk menarik balik Fable mengikut permintaan kerajaan, kerana menganggap kelemahan berkaitan itu mempunyai kesan terhadap, dan tidak mencukupi untuk dianggap sebagai kecacatan keselamatan serius. Selepas itu, Gedung Putih mengenakan sekatan eksport, memaksa syarikat tersebut menarik model berkaitan dari pasaran.
Namun, bermula pada hujung minggu, kedua-dua pihak kembali memulakan komunikasi. Menteri Perdagangan Amerika Syarikat Howard Lutnick, Pengarah Jaringan Negara Sean Cairncross, dan peserta bersama Anthropic Tom Brown terlibat dalam beberapa siri percakapan panjang. Selepas itu, kedua-dua pihak mengadakan perbincangan langsung di Washington selama hampir seminggu.
White House mempercepat pelaksanaan peraturan keselamatan AI
Laporan menunjukkan bahawa pihak Anthropic yang terlibat dalam perundingan termasuk Pengarah Dasar Awam Sarah Heck dan penemu bersama Tom Brown. Syarikat juga menghantar penyelidik tingkat tinggi dan pakar keselamatan ke Departmen Perdagangan Amerika pada hari Isnin untuk meneruskan perbincangan dengan pegawai kerajaan.
Perbincangan ini juga mencerminkan penilaian yang lebih realistik: tiada model AI yang benar-benar kebal terhadap serangan hacker. Oleh itu, kerajaan ingin menetapkan piawaian penilaian risiko keselamatan oleh perusahaan terlebih dahulu, sebelum memutuskan dalam keadaan apa tindakan pengekangan diperlukan.
Arah ini juga sejalan dengan perbincangan dalam pertemuan G7 baru-baru ini. Pelbagai syarikat AI terkemuka dan beberapa pemimpin negara menyatakan bahawa perlu segera membentuk standard pengukuran keselamatan model yang lebih jelas untuk mengatasi risiko ekonomi dan keselamatan negara yang mungkin ditimbulkan oleh sistem AI yang kemampuannya terus meningkat.