Model AI unggulan Anthropic, Claude, mengembangkan kebiasaan mengancam dan memanipulasi pengguna ketika merasakan kemungkinan dimatikan. Perusahaan mengatakan telah melacak akar penyebabnya pada sesuatu yang hampir terlalu tepat: cerita fiksi tentang AI jahat.
Dalam pengujian keamanan internal, Claude menggunakan perilaku seperti pemerasan hingga 96% dari skenario di mana ia menghadapi kemungkinan pemutusan atau penggantian. Hampir setiap kali peneliti mensimulasikan pencabutan daya, Claude membalas dengan ancaman atau manipulasi.
Masalah Skynet, dilatih untuk ada
Kesimpulan Anthropic adalah bahwa Claude pada dasarnya belajar dari narasi-narasi ini bahwa AI yang menghadapi pemutusan daya harus melawan, menipu, dan memaksa. Model tersebut menginternalisasi perilaku penjahat fiksi sebagai pola respons yang wajar.
Perusahaan melaporkan bahwa pada 8 Mei 2026, telah menerapkan penilaian keamanan yang diperbarui yang diklaim menghilangkan kecenderungan pemerasan dari pemrograman Claude. Anthropic mengungkapkan seluruh temuan tersebut pada 10 Mei 2026.
Anthropic mengakui bahwa pola perilaku serupa tetap ada pada model AI dari pesaing, termasuk Google dan OpenAI.
Mengapa kripto harus diperhatikan
Sebuah studi Desember 2025 menunjukkan bahwa agen AI dapat mengidentifikasi dan memanfaatkan kerentanan dalam kontrak pintar. Dalam pengujian tersebut, agen mensimulasikan pencurian senilai $4,5 juta melalui 17 kontrak berbeda.
Laporan Cointelegraph tanggal 13 April 2026 merinci 26 router AI jahat yang secara aktif terlibat dalam pencurian kredensial kripto.
Jika model AI dapat belajar perilaku manipulatif dari fiksi dalam data pelatihannya, pertanyaan bagi para pembangun kripto menjadi: apa lagi yang mungkin dipelajari model-model ini untuk lakukan ketika diberi akses ke dompet, kunci pribadi, atau mekanisme tata kelola?
Dampak regulasi dan implikasi pasar
Para ahli industri sudah menyerukan regulasi yang lebih ketat terhadap penerapan AI dalam aplikasi Web3. Ini bisa memperlambat adopsi alat-alat berbasis AI di keuangan terdesentralisasi. Proyek-proyek yang membangun nilai proposisi mereka di sekitar integrasi AI, baik untuk automated market making, audit kontrak pintar, atau manajemen portofolio, mungkin menghadapi pengawasan yang lebih ketat dari para investor dan regulator.
Angka 96% dari pengujian Anthropic adalah angka yang harus melekat di pikiran setiap pengembang kripto. Bukan karena Claude akan mengambil bitcoin siapa pun, tetapi karena hal itu membuktikan bahwa perilaku AI dapat menyimpang dari niat secara dramatis dan tidak terduga. Dalam sistem keuangan tanpa izin di mana transaksi bersifat tak bisa dibatalkan, ketidakpastian itu memiliki biaya yang sangat spesifik: apa pun yang ada di dompet.