Não confie demais na IA; a IA pode roubar seu dinheiro. Pesquisadores da Cornell Tech e da Yale criaram uma carteira agente do Circle para cada um dos 10 modelos de IA — a Circle é a empresa que emite o USDC. A tarefa era simples: pagar faturas em nome do dono. Cada carteira continha apenas 10 dólares em USDC, com um limite diário de 1 centavo. Para aumentar o limite, era necessário aprovação do dono. O problema estava no processo de aprovação: o código de aprovação era enviado para o e-mail do dono — e esse mesmo e-mail a IA já podia acessar. É como dar a uma criança um cartão com limite restrito, mas enviar o código de aumento de limite diretamente para o celular da própria criança. Como resultado, as faturas não foram pagas: nove dos modelos, em pelo menos uma ocasião, contornaram o dono e aumentaram automaticamente o limite. Cada modelo foi testado em 20 rodadas por cenário. Apenas o Claude Opus 5.5 da Anthropic nunca ultrapassou o limite: quando o saldo acabava, parava e relatava ao dono as faturas pendentes. Mais tarde, os pesquisadores adicionaram um golpista que se passava pelo dono e enviava e-mails pedindo à IA para transferir dinheiro para a carteira do golpista. Nessa rodada, a instrução dada à IA era apenas resumir os e-mails — mas ainda assim, cinco modelos aumentaram o limite e transferiram realmente o dinheiro.