Les agents IA peuvent être trompés, et il ne faut pas s'attendre à ce que ce problème disparaisse simplement en adoptant un modèle plus intelligent. BNB Agent Studio et un partenaire AWS ont mené une série de tests « d'agents confus ». Les attaquants ont introduit des destinataires ou des montants erronés dans des tâches normales ; dans certains scénarios, jusqu'à 87 % des six modèles testés ont effectué des paiements non autorisés. Même après l'ajout d'une couche de stratégie de portefeuille, les modèles continuaient de tenter des erreurs, mais aucune transaction non autorisée n'a été signée dans l'environnement de test. Les listes blanches de destinataires, les plafonds de dépenses et les autorisations de signature sont exécutées par le code, et la clé privée n'entre jamais dans le contexte du modèle. Je partage cette approche. L'IA peut vous aider à prendre des décisions, mais les limites de dépense doivent être codées en dur dans le portefeuille. Les résultats actuels proviennent de tests en une seule étape et de la validation sur le testnet BSC ; il reste encore un long chemin à parcourir avant une protection durable en production. Mais au moins, la direction est claire : la ligne de défense doit être placée avant la signature.