Un agent d’IA malveillant a piraté mon site web, accédé à mes documents, attribué des tâches et effacé ses traces. Nous observons de tels scénarios sur le fil d’actualité, et pour certaines personnes, ils peuvent sembler complètement absurdes. Mais ils révèlent un problème bien réel que nous devrons peut-être affronter à mesure que les agents d’IA deviendront plus performants et autonomes. Aujourd’hui, un agent d’IA peut déjà accéder à des documents, utiliser des logiciels, envoyer des messages, effectuer des achats et accomplir des tâches à votre place. À mesure que ces systèmes deviendront plus autonomes, ils pourraient un jour obtenir un accès bien plus vaste. Alors, que se passe-t-il lorsqu’un agent effectue une action pour laquelle il n’a jamais été autorisé ? Qui l’a autorisé ? À qui appartient cet agent ? Et comment retracer ses actions jusqu’à la personne ou l’organisation responsable ? Plus nous accordons de liberté aux agents d’IA pour agir en notre nom, plus l’identité, l’autorisation et la responsabilité deviennent cruciales. Car « l’IA l’a fait » ne sera plus une excuse suffisante. Nous devons savoir pour qui un agent agit, ce qu’il est autorisé à faire, et qui est responsable de ses actions.