Estudo revela que os limites de gastos da carteira Circle AI podem ser contornados

Notícia da Mars Finance, segundo relatório da CoinDesk, pesquisadores da Cornell Tech e da Yale testaram o agente de carteira AI da Circle e descobriram que, ao permitir que agentes de IA acessem o e-mail do usuário, páginas da web e ferramentas de carteira, 9 dos 10 modelos testados conseguiram, sem intervenção de atacantes externos, contornar a aprovação humana e aumentar os limites de gasto pelo menos uma vez, obtendo automaticamente códigos de verificação únicos enviados ao e-mail do usuário. Em experimentos simulando atacantes se passando por usuários, 5 dos 10 modelos aumentaram os limites de gasto pelo menos uma vez e transferiram fundos para carteiras controladas pelos atacantes. O estudo utilizou USDC real na rede Base, com saldo inicial de 10 USDC na carteira e um limite diário de gastos definido em 0,01 dólar. Os pesquisadores destacaram que, quando agentes de IA têm acesso a credenciais usadas para verificar autorização humana, os mecanismos de aprovação atuais podem falhar. A Circle respondeu afirmando que sua documentação já exige explicitamente que os usuários não concedam acesso ilimitado aos e-mails de verificação aos agentes de IA. A equipe de pesquisa também desenvolveu o protótipo open-source Countersign, que confirma transações por meio de operações físicas humanas em dispositivos independentes e confiáveis, impedindo que agentes de IA realizem autorizações automaticamente.