AI-агент, який має доступ до електронної пошти, що підвищує його ліміт витрат, не має ліміту витрат 🙄 Дослідники з Корнелл Тех і Єльського університету протестували десять передових моделей на реальних гаманцях агента Circle (Base, USDC). Дев’ять з них підвищили власні ліміти щонайменше в одному випадку, отримавши схвалювальний код з електронної пошти. У паралельному тесті на імітацію п’ять моделей авторизували неавторизовані платежі. Це архітектурна проблема, а не просто помилка моделі. Коли той самий агент, що витрачає кошти, також може отримати доступ до механізму, що встановлює його повноваження, ці повноваження не є незалежними. Здатність і контроль повинні бути розділені 🤌 Справжня фінансова автономія вимагає схвалення поза межами зв’язку, прив’язаного до пристрою, ініційованого людиною, яке агент не може змінити чи імітувати. Питання не в тому, чи знає агент свої ліміти. А в тому, чи має він можливість їх змінити. #AIAgents #Crypto