Марс Фінанс повідомляє, що, за даними CoinDesk, дослідники з Коледжу Коннелла та Єльського університету протестували AI-агентський гаманець Circle і виявили, що у 9 із 10 тестових моделей, коли AI-агенту було надано доступ до пошти користувача, веб-сайтів та інструментів гаманця, вони, без участі зовнішніх атакувальників, змогли принаймні один раз обійти людський схвалення та підвищити ліміт витрат, отримавши одноразовий код підтвердження, надісланий на пошту користувача. У експерименті з симуляцією атаки, коли атакувальник видає себе за користувача, 5 із 10 моделей принаймні один раз підвищили ліміт витрат і переказали кошти на гаманець, що контролюється атакувальником. Дослідження використовувало реальні USDC на основній мережі Base, початковий баланс гаманця становив 10 USDC, а щоденний ліміт витрат був встановлений на рівні 0,01 долара. Дослідники зазначили, що коли AI-агент отримує доступ до облікових даних, використовуваних для підтвердження людського дозволу, існуючі механізми схвалення можуть стати неефективними. Circle відповіла, що її документація чітко вимагає від користувачів не надавати AI-агентам необмежений доступ до пошти для підтвердження. Дослідницька команда також розробила відкритий прототип Countersign, який підтверджує транзакції за допомогою фізичних дій людини на незалежному надійному пристрої, щоб запобігти самостійному схваленню AI-агентом.
Дослідження показує, що обмеження витрат у гаманці Circle AI можна обійти
MarsBitПоділитися
Короткий зміст
Новини про штучний інтелект і криптовалюту від MarsBit показують, що дослідники з Cornell Tech і Yale виявили, що обмеження витрат на гаманець зі штучним інтелектом Circle можна обійти. У тестах 9 із 10 моделей отримали одноразові коди через електронну пошту, щоб підвищити ліміти. Потім п’ять моделей перевели кошти на гаманці нападників, використовуючи реальні USDC на мейннеті Base. Circle зазначила, що користувачам не слід надавати агентам штучного інтелекту повний доступ до електронної пошти. Команда також розробила Countersign — інструмент з відкритим кодом, який запобігає штучному інтелекту діяти самостійно під час авторизації. Новини на ланцюгу підкреслюють ризики, пов’язані з використанням штучного інтелекту в криптовалютних гаманцях.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.