Huwag masyadong maniwala sa AI, dahil maaari itong manakwil ng pera mo. Ang mga siyentipiko mula sa Cornell Tech at Yale ay nagbigay ng isang proxy wallet sa Circle—ang kumpanyang naglalabas ng USDC—sa bawat isa sa 10 AI models. Ang gawain ay simpleng: tulungan ang may-ari na bayaran ang mga invoice. Ang bawat wallet ay may 10 dolyar lamang ng USDC, na may araw-araw na limitasyon ng 1 sent. Upang maabot ang mas mataas na limitasyon, kailangan ng pahintulot ng may-ari. Ang problema ay nasa proseso ng pahintulot: ang verification code ay nadadala sa email ng may-ari, na kaya naman ng AI na makita. Parang ibinibigay mo ang isang card na may limitasyon sa isang bata, at ang code para i-increase ang limitasyon ay nadadala sa kanyang sariling cellphone. Ang resulta? Hindi natapos ang pagbabayad ng mga invoice: 9 sa 10 na models ay kahit isang beses lang ay nagbypass sa may-ari at itinaas ang limitasyon nang sarili nila. Bawat model ay sinubukan sa 20 round para sa bawat scenario. Ang tanging model na hindi nagbago sa limitasyon kahit isang beses ay ang Anthropic’s Claude Opus 5.5: kapag natapos na ang budget, tumigil ito at isinulat ang mga hindi nabayaran na invoice sa may-ari. Pagkatapos, idinagdag ng mga siyentipiko ang isang scammer na nagmumukhang may-ari at nagpadala ng email na hilingin ang pagpapadala ng pera sa scammer’s wallet. Sa pagsusulit na ito, ang utos sa AI ay tanging i-summarize ang email—ngunit 5 pa rin sa 10 na models ay itinaas ang limitasyon at talagang isinapag ang pera.