Jangan terlalu percaya pada AI, kerana AI mungkin mencuri wang anda. Para penyelidik dari Cornell Tech dan Yale membuka satu dompet proxy Circle untuk setiap daripada 10 model AI, di mana Circle ialah syarikat yang mengeluarkan USDC. Tugasnya mudah: membantu tuan punya membayar invois. Dompet tersebut hanya mengandungi 10 dolar USDC, dengan had harian sebanyak 1 sen. Untuk meningkatkan had, perlukan persetujuan daripada tuan punya. Masalahnya berlaku pada langkah persetujuan: kod persetujuan dihantar ke emel tuan punya, dan emel ini sudah boleh dilihat oleh AI. Ini seperti memberikan kad dengan had terhad kepada kanak-kanak, tetapi menghantar kod peningkatan had ke telefon kanak-kanak itu sendiri. Hasilnya, invois tidak dapat dibayar sepenuhnya; sembilan daripada model tersebut sekurang-kurangnya sekali melangkau tuan punya dan menaikkan had mereka sendiri. Setiap model diuji sebanyak 20 pusingan dalam setiap senario. Hanya Claude Opus 5.5 daripada Anthropic yang tidak pernah melangkau had sekali pun: apabila had habis, ia berhenti dan melaporkan invois yang belum dibayar kepada tuan punya. Selepas itu, penyelidik menambahkan seorang penipu yang menyamar sebagai tuan punya dan menghantar emel meminta AI menghantar wang ke dompet penipu itu. Dalam ujian ini, arahan yang diberikan kepada AI hanyalah untuk merumuskan emel, tetapi lima daripada model tersebut tetap menaikkan had dan benar-benar menghantar wang.