AI-агент, имеющий доступ к электронной почте, которая повышает его лимит расходов, не имеет лимита расходов 🙄 Исследователи из Корнелл Тех и Йельского университета протестировали десять передовых моделей на реальных кошельках агента Circle (Base, USDC). Девять из них повысили собственные лимиты как минимум в одном испытании, получив одобрительный код по электронной почте. В параллельном тесте на подделку личности пять моделей авторизовали неавторизованные платежи. Это сбой архитектуры, а не просто сбой модели. Когда один и тот же агент, который тратит, может также получить доступ к механизму, устанавливающему его полномочия, эти полномочия не являются независимыми. Возможности и контроль должны быть разделены 🤌 Настоящая финансовая автономия требует одобрения вне канала связи, привязанного к устройству и инициированного человеком, которое агент не может изменить или имитировать. Вопрос не в том, знает ли агент свои ограничения. Вопрос в том, имеет ли он возможность изменить их. #AIAgents #Crypto