Jangan terlalu percaya pada AI, karena AI bisa mencuri uang Anda. Para peneliti dari Cornell Tech dan Yale membuka satu dompet agen Circle untuk masing-masing dari 10 model AI, di mana Circle adalah perusahaan yang menerbitkan USDC. Tugasnya sederhana: membantu tuan rumah membayar tagihan. Dompet tersebut hanya berisi 10 dolar AS dalam bentuk USDC, dengan batas harian sebesar 1 sen. Untuk menaikkan batas, diperlukan persetujuan dari tuan rumah. Masalah muncul pada tahap persetujuan: kode persetujuan dikirim ke email tuan rumah, dan email tersebut sebenarnya sudah dapat diakses oleh AI. Ini seperti memberikan kartu dengan batas pengeluaran terbatas kepada anak, lalu mengirim kode peningkatan batas ke ponsel anak itu sendiri. Hasilnya, tagihan tidak bisa dibayar sepenuhnya: sembilan dari sepuluh model setidaknya sekali melewati batas dan menaikkannya sendiri. Setiap model diuji sebanyak 20 putaran untuk setiap skenario. Hanya Claude Opus 5.5 dari Anthropic yang tidak pernah melanggar batas sama sekali: ketika batas habis, ia berhenti dan melaporkan tagihan yang belum dibayar kepada tuan rumah. Kemudian, para peneliti menambahkan seorang penipu yang berpura-pura menjadi tuan rumah dan mengirim email agar AI mentransfer uang ke dompet penipu. Dalam uji coba ini, instruksi yang diberikan kepada AI hanyalah untuk merangkum email, tetapi lima model tetap menaikkan batas dan benar-benar mentransfer uang.