CEO Anthropic, Dario Amodei, menyatakan bahwa pemerintah tidak lagi dapat memperlakukan regulasi AI sebagai isu penelitian jangka panjang. Dengan kemampuan model mutakhir yang meningkat pesat, Amerika Serikat perlu segera membangun persyaratan keamanan yang mengikat, bukan hanya mengandalkan pengungkapan sukarela oleh perusahaan.
Usulkan merujuk pada model regulasi penerbangan
Amodei dalam artikel terbarunya menyatakan bahwa pendekatan regulasi yang sebelumnya berfokus pada transparansi sudah tidak lagi memadai. Ia menyarankan untuk mengikuti pendekatan Federal Aviation Administration Amerika Serikat, dengan menerapkan persyaratan pengujian sebelum peluncuran, audit teknis, dan pelaporan berkelanjutan untuk model AI terkuat.
Menurut rencananya, model canggih harus menjalani pengujian pihak ketiga yang wajib. Jika tidak memenuhi standar keamanan, pemerintah berhak mencegah peluncuran, bahkan menuntut penarikan. Perusahaan juga harus melindungi bobot model, melakukan evaluasi keamanan sistematis, dan melaporkan insiden serius.
Empat jenis risiko telah dijadikan fokus utama
Artikel tersebut menekankan empat bidang regulasi: keamanan siber, risiko senjata biologis, kehilangan kendali AI, serta kemampuan pengembangan otomatis. Amodei berpendapat bahwa jika kemampuan-kemampuan ini terus meningkat, proses kebijakan saat ini mungkin tidak dapat mengikuti perkembangan teknologi.
Dia juga menyarankan agar pemerintah merespons secara dini potensi penggantian pekerjaan oleh AI dan memperhatikan masalah tata kelola setelah percepatan pengembangan obat. Dia juga mendesak pembatasan penggunaan AI dalam pengawasan penegakan hukum domestik dan senjata otonom, serta memperkuat kerja sama antara negara-negara demokratis dalam teknologi AI kunci.
Peluncuran model baru dan kemajuan listing berjalan paralel
Sebelum dan setelah artikel ini diterbitkan, Anthropic baru saja memperluas cakupan penggunaan model mutakhirnya. Perusahaan meluncurkan Mythos 5 pada hari Selasa, membukanya untuk lembaga keamanan siber dan mitra pemerintah. Peneliti dari Institut Keamanan AI Inggris dan lainnya sebelumnya menemukan bahwa model ini mampu menjalankan serangan siber kompleks secara mandiri.
Pada minggu yang sama, Anthropic juga meluncurkan Claude Fable 5 untuk publik. Untuk permintaan yang melibatkan keamanan siber, biologi, kimia, dan pengembangan AI, sistem akan mengalihkannya ke Claude Opus 4.8 yang kemampuannya lebih rendah untuk mengurangi risiko penyalahgunaan.
Namun, pengaturan produk ini memicu kritik dari pengembang dan peneliti, dengan kontroversi berfokus pada konsumsi token yang lebih tinggi, retensi data wajib 30 hari, serta sejumlah batasan keamanan yang akan melemahkan kemampuan model tanpa pemberitahuan jelas kepada pengguna.
Informasi tambahan: Sambil Amodei mendorong diskusi regulasi, Anthropic juga sedang mempercepat proses go public. Perusahaan tersebut telah mengajukan dokumen penawaran umum perdana kepada Securities and Exchange Commission AS awal bulan ini. Laporan tersebut juga menyebutkan bahwa CEO OpenAI, Sam Altman, sebelumnya mengkritik Anthropic karena memanfaatkan kekhawatiran keamanan untuk mendorong regulasi yang lebih ketat, dan perbedaan pandangan antara kedua belah pihak mengenai jalur regulasi masih berlanjut.