Si l’IA se trompe simplement sur une question, cela ne coûte que quelques minutes au maximum. Mais si elle a accès à un portefeuille, une seule erreur pourrait vous faire perdre 200 000 dollars. En mai 2026, quelqu’un a caché une instruction de virement dans le code Morse d’un post sur X. Grok l’a interprété, et Bankrbot a exécuté la transaction directement. C’est précisément ce que je considère comme le risque le plus critique pour les agents IA : ils peuvent interpréter des instructions cachées dans des informations comme des ordres qu’ils doivent suivre. Le design de Greyboxing de @GenLayer mérite une attention particulière. Chaque validateur réinitialise d’abord l’entrée avec sa propre défense cachée, puis la transmet à son modèle IA respectif pour évaluation. Même si un modèle est trompé, les autres validateurs peuvent bloquer la décision erronée par vote. Je pense que cette approche de défense en couches deviendra de plus en plus cruciale. Lorsque les agents IA commenceront à lire vos e-mails, naviguer sur le web, voire gérer vos actifs pour vous, la vraie question de sécurité ne sera plus seulement leur intelligence, mais leur capacité à distinguer les informations des instructions. Si votre agent IA peut manipuler un portefeuille, seriez-vous à l’aise de lui permettre de lire directement n’importe quel post public ?