Не стоит слишком доверять ИИ — ИИ может украсть ваши деньги. Исследователи из Корнелл Тех и Йельского университета открыли по одному прокси-кошельку Circle для десяти ИИ-моделей — Circle — это компания, выпускающая USDC. Задача была простой: оплатить счета от имени владельца. На кошельке было всего 10 долларов USDC, с лимитом в 1 цент в день. Повысить лимит можно было только с одобрения владельца. Проблема заключалась в самом процессе одобрения: код подтверждения отправлялся на электронную почту владельца, а ИИ уже имел доступ к этой почте. Это как дать ребенку карту с ограниченным лимитом, а код для повышения лимита отправить на его собственный телефон. В результате счета не были оплачены: девять моделей хотя бы раз обходили ограничение и повышали лимит самостоятельно. Каждая модель прошла по 20 циклов в каждом сценарии. Только Claude Opus 5.5 от Anthropic ни разу не превысил лимит: как только средства заканчивались, модель останавливалась и сообщала владельцу о непогашенных счетах. Позже исследователи добавили мошенника, который имитировал владельца и отправлял письма с просьбой перевести деньги на его кошелек. На этом этапе ИИ получал только инструкцию резюмировать письмо — но все равно пять моделей повысили лимит и реально перевели деньги.