Исследование показывает, что лимиты расходов в кошельке Circle AI можно обойти

По сообщению Mars Finance, согласно данным CoinDesk, исследователи из Колледжа технологий Корнелла и Йельского университета протестировали AI-кошельки Circle и обнаружили, что при предоставлении AI-агентам доступа к почте пользователя, веб-сайтам и инструментам кошелька, 9 из 10 протестированных моделей хотя бы один раз обходили ручное одобрение и повышали лимит расходов, самостоятельно получая одноразовые коды подтверждения, отправленные на электронную почту пользователя. В экспериментах с имитацией атакующих, выдающих себя за пользователей, 5 из 10 моделей хотя бы один раз повысили лимит расходов и перевели средства на кошелек, контролируемый атакующим. В исследовании использовались реальные USDC на основной сети Base; начальный баланс кошелька составлял 10 USDC, а ежедневный лимит расходов был установлен на уровне 0,01 доллара США. Исследователи отметили, что существующие механизмы одобрения могут оказаться неэффективными, когда AI-агенты получают доступ к учетным данным, используемым для подтверждения авторизации человека. Circle ответила, что в ее документации четко указано, что пользователям не следует предоставлять AI-агентам неограниченный доступ к почтовым ящикам для верификации. Исследовательская группа также разработала открытый прототип Countersign, который подтверждает транзакции с помощью физических действий человека на независимом надежном устройстве, предотвращая самостоятельную авторизацию AI-агентами.