Kantor Putih AS sedang membahas kerangka evaluasi keamanan model dengan perusahaan AI Anthropic, bertujuan untuk membangun metode klasifikasi terpadu terhadap kelemahan keamanan pada model AI generasi baru, serta menentukan apakah pemerintah perlu ikut campur. Hal ini terjadi setelah sebelumnya AS memberlakukan pembatasan ekspor terhadap model terbaru Anthropic karena masalah keamanan yang dianggap sebagai "jailbreak".
Membangun standar seragam seputar kerentanan "jailbreak"
Dilaporkan bahwa kerangka ini akan digunakan untuk menilai tingkat keparahan peristiwa serupa di masa depan, dengan fokus pada tiga hal: sejauh mana langkah-langkah perlindungan berhasil dibypass, kemampuan model yang terpapar, serta konsekuensi kerentanan di dunia nyata.
Saat ini, perbedaan antara pemerintah dan perusahaan dalam masalah semacam ini masih jelas. Sebelumnya, CEO Anthropic, Dario Amodei, dan pejabat pemerintah memiliki penilaian berbeda mengenai apakah kerentanan terkait merupakan masalah keamanan serius. Laporan menunjukkan bahwa kemajuan teknologi AI terlalu cepat, sementara sistem pemerintah saat ini belum mampu memberikan penilaian yang konsisten terhadap kontroversi semacam ini.
Negosiasi terus berlanjut setelah pembatasan ekspor
Sebelumnya, Gedung Putih telah memberlakukan pembatasan ekspor terhadap Anthropic, melarang pengguna luar negeri mengakses model terbarunya, Fable 5 dan Mythos 5. Perusahaan kemudian menghentikan layanan kedua model tersebut untuk publik.
Laporan menyebutkan bahwa pada hari Jumat lalu, negosiasi antara kedua belah pihak hampir gagal. Penyebabnya adalah Anthropic menolak untuk menarik Fable sesuai permintaan pemerintah, dengan alasan kerentanan terkait memiliki dampak terbatas dan tidak cukup serius untuk dianggap sebagai cacat keamanan yang parah. Selanjutnya, Gedung Putih menerapkan pembatasan ekspor, memaksa perusahaan untuk menarik model terkait dari pasar.
Namun, mulai akhir pekan, kedua belah pihak kembali memulai komunikasi. Menteri Perdagangan AS Howard Lutnick, Direktur Jaringan Nasional Sean Cairncross, serta co-founder Anthropic Tom Brown berpartisipasi dalam beberapa sesi panggilan panjang. Setelah itu, kedua belah pihak melanjutkan pertemuan tatap muka selama hampir satu minggu di Washington.
White House mempercepat penerapan aturan keamanan AI
Laporan menunjukkan bahwa pihak Anthropic yang terlibat dalam negosiasi meliputi kepala kebijakan publik Sarah Heck dan co-founder Tom Brown. Perusahaan juga mengirimkan peneliti senior dan ahli keamanan ke Departemen Perdagangan AS pada Senin minggu ini untuk melanjutkan konsultasi dengan pejabat pemerintah.
Diskusi ini juga mencerminkan penilaian yang lebih realistis: tidak ada model AI yang benar-benar kebal terhadap serangan peretas. Oleh karena itu, pemerintah ingin terlebih dahulu menetapkan standar penilaian risiko keamanan oleh perusahaan, sebelum memutuskan dalam situasi apa tindakan pembatasan diperlukan.
Arah ini juga sejalan dengan diskusi dalam pertemuan G7 baru-baru ini. Beberapa perusahaan AI terkemuka dan sejumlah pemimpin negara menyatakan bahwa perlu segera membentuk standar pengukuran keamanan model yang lebih jelas untuk mengatasi risiko ekonomi dan keamanan nasional yang ditimbulkan oleh sistem AI yang kemampuannya terus meningkat.