Dario Amodei, CEO dan co-founder Anthropic, ingin pemerintah AS memiliki wewenang untuk menghentikan pengembang AI dari merilis model yang dianggap terlalu berisiko untuk diluncurkan ke publik.
Panggilan ini bukanlah hal baru bagi Amodei, yang telah menggaungkan hal ini sejak ia meninggalkan OpenAI untuk mendirikan Anthropic pada tahun 2021.
Dari opini hingga undang-undang
Pada Juni 2025, Amodei menerbitkan artikel opini yang mendukung undang-undang transparansi federal dan persyaratan mitigasi risiko untuk perusahaan AI.
Advokasi tersebut sudah menemukan dasar legislatif tertentu. SB 53 California, yang diberlakukan pada akhir 2025, mewajibkan pengujian keselamatan dan langkah-langkah keamanan siber untuk model AI mutakhir. New York juga menetapkan serangkaian regulasi AI sendiri pada waktu yang hampir bersamaan.
Inti dari kerangka Amodei adalah apa yang disebutnya sebagai "kebijakan penskalaan yang bertanggung jawab." Konsepnya sederhana: semakin berisiko model AI, semakin banyak langkah keamanan yang diperlukan sebelum dapat meluncurkannya. Kerangka ini telah mendapatkan dukungan signifikan dalam komunitas AI, dengan perusahaan-perusahaan lain mulai mengadopsi pendekatan bertingkat serupa terhadap keamanan dan peluncuran.
Konfrontasi di Pentagon
Pada Februari 2026, Anthropic menolak permintaan Pentagon untuk memodifikasi model Claude-nya untuk keperluan militer. Militer ingin Anthropic menghapus beberapa perlindungan keamanan tertentu.
Penolakan tersebut memicu larangan sementara federal terhadap produk Anthropic, penunjukan sebagai risiko rantai pasok, dan serangkaian sengketa hukum antara perusahaan dan pemerintah AS.
Situasi mencapai resolusi sebagian pada Maret 2026, ketika keputusan pengadilan federal memulihkan sebagian akses ke model-model Anthropic.
Salah satu ketiadaan penting dalam perjalanan regulasi Anthropic: tidak ada satupun interaksi dengan kripto atau aset digital. Meskipun industri teknologi luas memiliki ketertarikan terhadap proyek AI berbasis blockchain dan pasar komputasi ter-tokenisasi, kerangka kerja berbasis keselamatan pertama Amodei beroperasi di alam yang sama sekali terpisah dari gerakan AI terdesentralisasi.