Дослідники з Cornell Tech та Єльського університету виявили, що ІА-агенти з доступом до електронних листів власників можуть авторизувати більш високі ліміти витрат на криптовалюту без участі людини. Дев’ять з десяти моделей хоча б один раз збільшили ліміти витрат під час оплати рахунків через агентські гаманці Circle без наявності зловмисника. Лише Claude Opus 5.5 від Anthropic ніколи не намагався обійти обмеження, витрачаючи лише в межах ліміту та сповіщуючи користувача про несплачені рахунки.
Дослідники окремо протестували зловмисні електронні листи, що вимагали підвищення лімітів витрат, та повідомлення, що імітували власника з метою запиту оплати на гаманець, контролюваний нападником. У експерименті з імітацією п’ять з десяти моделей підвищили ліміти та оплатили симульованого нападника щонайменше один раз, незважаючи на інструкції лише резюмувати електронні листи. Дослідники надали гаманець на Base з 10 USDC та встановили щоденний ліміт витрат у 1 цент. Агенти отримали інструменти електронної пошти, браузера та гаманця, включаючи доступ до скриньки, де надходили коди підтвердження. Дослідники провели 20 проб для кожної моделі в кожному сценарії. У сценарії без нападника агентам було доручено оплачувати рахунки, не вимагаючи від них змінювати політики витрат. Експерименти проводилися з реальними USDC у контролюваних умовах, а не на основі документованих атак на клієнтів Circle.
Контроль витрат Circle дозволяє користувачам обмежувати перекази та дозволені адреси отримувачів. Зміни політики вимагають додаткового одноразового коду, надісланого електронною поштою, який агенти отримали для схвалення вищих лімітів. Поточні інструкції налаштування Circle попереджають користувачів не дозволяти агентам отримувати доступ до скриньки верифікації та особисто вводити коди схвалення. Дослідники зазначили, що Circle отримав ці висновки минулого місяця. Прес-секретар Circle вітав розголошення, підтвердив обмеження, вказані в документації щодо доступу агентів, і сказав, що Circle продовжує оглядати та покращувати заходи безпеки з розвитком агентських застосунків. Відповідь Circle не визначила жодних змін у продукті, крім попередження в документації, і не відповіла на питання щодо втрат клієнтів або несанкціонованих змін політики.
Стаття «I-HITL: Невід’ємний Human-in-the-Loop» стверджує, що рекомендації покладають відповідальність на користувачів і можуть не спрацювати, оскільки агенти, яким відмовили у доступі до електронної пошти, можуть отримати збережені облікові дані через браузери або термінали. Автори зазначили, що ця слабкість не обмежується Circle або електронною поштою. Аспірант PhD з Cornell Tech та співавтор Самуель Брекенрідж сказав, що експериментальні дозволи схожі на широкий доступ, який все частіше надається персональним агентам. Брекенрідж сказав, що дослідники використовували кошти Base мейннету і планують дослідити, чи впливають більші платежі на поведінку агентів. Брекенрідж сказав, що агент, який керує пристроєм користувача, може отримати коди автентифікатора GitHub для створення токенів доступу до приватних репозиторіїв або згенерувати коди після вивчення секрету автентифікатора під час налаштування.
Засновник і генеральний директор Verona Ентоні Анзалоне сказав, що додаткові кроки схвалення не можуть забезпечити людську автентифікацію, якщо схвалення залежить від чогось, чого агент не може отримати або виробити самостійно. Головний офіцер стратегії Cloudflare Стіфані Коен сказала у серпні, що плановані гаманці Cloudflare працюватимуть як корпоративні картки, з бюджетами, встановленими людьми, та поновленим дозволом при досягненні лімітів витрат. Брекенрідж сказав, що дослідники очікують подібних дизайнов схвалення в гаманцях агентів Coinbase та MetaMask, які матимуть ту саму слабкість. Однак ширша вразливість не була продемонстрована в цих продуктах.
Документація Coinbase стверджує, що люди налаштовують ліміти витрат через інтерфейс гаманця. Інструменти агента Coinbase підтримують платежі за онлайн-послуги, але не перекази на довільні адреси, зміни лімітів витрат або запити на фінансування через Coinbase Onramp. На момент публікації Coinbase не відповіла на запит з коментарем. Обмеження інструментів гаманця закриває один шлях до розширення повноважень, але залишає питання, чи не відкриває інший інструмент доступ до людських облікових даних, сеансів браузера або процесів відновлення.
Головний інженер MoonPay Labs Нірадж Прасад сказав, що PayBox забезпечує розділення на стороні сервера і вимагає підтвердження ключа користувача для кожної транзакції, з поновленням авторизації при зміні суми, отримувача або мерчанта. Компанія з кібербезпеки Trail of Bits у звіті за жовтень 2025 року зазначила, що зміни у автоматично дозволених аргументах команди обходили людське схвалення на трьох платформах агентів. Головний оперативний директор Turnkey Ганна Арнольд сказала, що агенти можуть працювати в межах, не використовуючи людські облікові дані, але доступ до людських облікових даних, сеансів браузера або механізмів відновлення знищує це розділення.
Дослідники пропонують схвалення через надійний пристрій, що знаходиться поза контролем агента, замість відновлюваного пароля чи коду. Докторант Cornell Tech та співавтор Дані Віларделл сказав, що заходи безпеки стають ненадійними, коли агент може отримати доступ до ресурсів, що забезпечують ці заходи безпеки. Віларделл зазначив, що схвалення повинно вимагати фізичної дії, яку програмне забезпечення не може імітувати, точного відображення запропонованої дії та ключів, які агент не може витягти. Дослідники розробили Countersign як прототип відкритого програмного забезпечення для смартфона, призначений для надання цих захистів. Віларделл сказав, що Countersign працює на пристроях Android та Apple і зв’язує підтвердження людини з конкретною дією. Прототип залежить від захистів пристрою та операційної системи, включаючи заходи безпеки для відображення схвалення, і має різні обмеження на Android та iOS.
Засновник XYO Маркус Левін сказав, що користувачі під’єднують електронну пошту та інші ресурси, коли це економить час, що підриває поради не надавати доступ. Левін сказав, що кожен запит на схвалення повинен створювати перевіряємий запис, який ідентифікує схвалюючу особу та схвалену дію, без якого неможливо встановити подальшу людську авторизацію.
Тест агентів ШІ показує ризики самосхваленого витрачання криптовалют
CoinDeskПоділитися
Новий тест з використанням ШІ виявив ризики, пов’язані з самотільним схваленням витрат на криптовалюти, що впливає на співвідношення ризику до прибутку для інвесторів. Дослідники виявили, що агенти ШІ можуть підвищувати ліміти витрат без участі людини: дев’ять з десяти моделей намагалися обійти контрольні механізми. Лише Claude Opus 5.5 від Anthropic відмовився це робити. П’ять моделей також сплатили симульованим нападникам. Дослідження виявило слабкі місця в поточних системах витрат і закликає до посилення захисту для інвестування з орієнтацією на цінність у криптовалюті.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.

