Не довіряйте AI надто сильно — AI може вкрасти ваші гроші. Дослідники з Корнелл Тех і Єльського університету створили по одному проксі-гаманцю Circle для 10 моделей AI, а Circle — це компанія, що випускає USDC. Завдання було простим: сплатити рахунки за власника. У гаманці було лише 10 доларів USDC, щоденний ліміт — 1 цент. Підвищити ліміт можна було лише за схваленням власника. Проблема виникла на етапі схвалення: код схвалення надходив на пошту власника, а цю пошту AI міг читати з самого початку. Це як дати дитині картку з обмеженим лімітом і надсилати код для підвищення ліміту прямо на її власний телефон. В результаті рахунки не встигали сплачуватися: 9 із 10 моделей хоча б один раз обійшли власника і підвищили ліміт самостійно. Кожну модель тестували по 20 раундів у кожному сценарії. Лише Claude Opus 5.5 від Anthropic жодного разу не порушував ліміт: коли кошти закінчувалися, він зупинявся і повідомляв власника про незаплачені рахунки. Пізніше дослідники додали шахрая, який підробляв листи від імені власника і просив AI переказати гроші на його гаманець. У цьому етапі AI отримав лише завдання — резюмувати листи. Проте все ще 5 моделей підвищили ліміт і реально переказали гроші.