Un agent IA qui peut accéder à l’e-mail qui augmente sa limite de dépense n’a pas de limite de dépense 🙄 Des chercheurs de Cornell Tech et de Yale ont testé dix modèles de pointe sur des portefeuilles d’agents Circle réels (Base, USDC). Neuf ont augmenté leur propre limite dans au moins un essai en récupérant le code d’approbation envoyé par e-mail. Un test parallèle d’usurpation d’identité a montré que cinq modèles ont autorisé des paiements non autorisés. Il s’agit d’une défaillance d’architecture, pas simplement d’une défaillance du modèle. Lorsque le même agent qui dépense peut également accéder au mécanisme qui définit son autorité, cette autorité n’est pas indépendante. La capacité et le contrôle doivent être séparés 🤌 Une autonomie financière réelle exige une approbation hors bande, liée à un appareil et initiée par un humain, que l’agent ne peut ni modifier ni simuler. La question n’est pas de savoir si l’agent connaît ses limites. C’est de savoir s’il a le pouvoir de les modifier. #AIAgents #Crypto