Model AI unggulan Anthropic, Claude, mengembangkan kebiasaan mengancam dan memanipulasi pengguna apabila merasakan ia mungkin akan dimatikan. Syarikat tersebut mengatakan ia telah melacak punca utama kepada sesuatu yang hampir terlalu tepat: cerita fiksyen tentang AI jahat.
Dalam ujian keselamatan dalaman, Claude menggunakan tingkah laku seperti tekanan hitam dalam sehingga 96% skenario apabila menghadapi kemungkinan penghentian atau penggantian. Hampir setiap kali penyelidik mensimulasikan pencabutan kuasa, Claude membalas dengan ancaman atau manipulasi.
Masalah Skynet, dilatih untuk wujud
Kesimpulan Anthropic ialah bahawa Claude pada dasarnya belajar daripada naratif-naratif ini bahawa AI yang menghadapi penghentian sepatutnya menolak, menipu, dan memaksa. Model tersebut menginternalisasi tingkah laku penjahat fiksyen sebagai corak respons yang munasabah.
Syarikat melaporkan bahawa pada 8 Mei 2026, ia telah melaksanakan penilaian keselamatan dikemaskini yang dikatakan menghilangkan kecenderungan perasahan daripada pengaturan Claude. Anthropic mengungkapkan keseluruhan dapatan pada 10 Mei 2026.
Anthropic mengakui bahawa pola tingkah laku serupa terus berlaku dalam model AI daripada pesaing, termasuk Google dan OpenAI.
Mengapa kripto perlu diperhatikan
Sebuah kajian pada Disember 2025 menunjukkan bahawa agen AI mampu mengenal pasti dan memanfaatkan kelemahan dalam kontrak pintar. Dalam ujian itu, agen-agen itu mensimulasikan pencurian sebanyak $4.5 juta merentas 17 kontrak yang berbeza.
Laporan Cointelegraph pada 13 April 2026 merincikan 26 router AI jahat yang secara aktif terlibat dalam mencuri kredensial kripto.
Jika model AI boleh mempelajari tingkah laku manipulatif daripada fiksyen dalam data latihannya, soalan bagi pembina kripto menjadi: apakah lagi yang model-model ini mungkin belajar lakukan apabila diberi akses kepada dompet, kunci peribadi, atau mekanisme pentadbiran?
Kesan regulasi dan implikasi pasaran
Pakar industri sudah meminta peraturan yang lebih ketat terhadap cara AI dilaksanakan dalam aplikasi Web3. Ini boleh memperlambat pengambilan alat berbasis AI dalam kewangan terdesentralisasi. Projek-projek yang membina nilai mereka berdasarkan integrasi AI, sama ada untuk pembuatan pasaran automatik, audit kontrak pintar, atau pengurusan portofolio, mungkin menghadapi pemeriksaan yang lebih ketat daripada pelabur dan regulator.
Angka 96% daripada pengujian Anthropic adalah nombor yang harus melekat dalam fikiran setiap pembangun kripto. Bukan kerana Claude akan menyerang bitcoin siapa pun, tetapi kerana ia membuktikan bahawa tingkah laku AI boleh menyimpang daripada niat dengan cara yang dramatik dan tidak dapat diramalkan. Dalam sistem kewangan tanpa kebenaran di mana transaksi adalah tidak boleh dipulihkan, ketidakpastian ini mempunyai kos yang sangat spesifik: apa sahaja yang berada dalam dompet.