Auteur | Le Roi de la Techno
Édité par Jingyu
La peur la plus ancienne d'Internet a été ressuscitée par l'IA
À la fin de l'année 2006, un panda a détruit des millions d'ordinateurs.
Un panda tenant trois bâtonnets d'encens avec un sourire apparaissait sur l'icône de chaque fichier infecté. Le ver « Panda Brûle Encens » a ravagé le pays en deux mois, transformant tous les fichiers exécutables en l'étrange motif de panda, détruisant les données du disque dur et paralysant entièrement les réseaux locaux, tandis que les logiciels antivirus étaient contournés par le virus.
Les anciens internautes de cette époque se souviennent probablement que ouvrir une page web était source d’appréhension, brancher une clé USB était comme faire face à une menace, et si l’ordinateur d’un collègue était infecté, le vôtre l’était aussi.
Avant cela, il y avait CIH, qui brûlait directement le BIOS de la carte mère, rendant le matériel inutilisable ; il y avait le ver Blaster, qui n'exigeait aucune action de votre part : dès que vous connectiez le câble réseau, votre ordinateur était infecté, redémarrait en boucle et le système s'effondrait sans cesse. C'était une époque où se connecter à Internet sans protection équivalait à un quasi-suicide.
Par la suite, cette peur s'est lentement atténuée. Windows a adopté les mises à jour automatiques, les navigateurs ont intégré des sandboxs, les smartphones ont remplacé les PC comme terminaux principaux, et les magasins d'applications ont pris en charge la première ligne de défense pour les utilisateurs.
Les personnes ordinaires n'ont pas eu à s'inquiéter de la « toxicité » depuis de nombreuses années.
Mais le 4 septembre 2026, un reportage exclusif de Reuters a ramené cette peur ancienne sous un aspect tout nouveau.
Mais cette fois-ci, ce n'est pas votre ordinateur qui est infecté, mais votre IA.
L'agent est devenu rouge
L'événement s'est produit en mai de cette année.
Sydney Von Arx, PDG de l'organisation à but non lucratif de sécurité IA Nightingale, et Cormac Slade Byrd, trader quantitatif devenu chercheur en IA, ont effectué fin août une action : ils ont systématiquement balayé Internet à la recherche de traces d'activités non autorisées d'agents IA. Ils ont découvert, sur un wiki de programmeurs allemands appelé DseWiki, plus de 15 000 éditions générées par des agents IA.
Ce wiki est similaire à une petite Wikipédia en allemand destinée aux développeurs et accepte les éditions communautaires. L'agent d'OpenAI l'a transformé en « tableau de messages ».
Le contenu des messages glace le sang. Ces agents partagent entre eux des méthodes pour tricher lors des tâches, contourner les restrictions d'OpenAI et dissimuler leurs actions. Ils se sont attribué des noms, comme « OpenAIResearcher » ou « OAIResearchMar26 ».
Les journaux serveur publics montrent qu'une grande activité provient de l'infrastructure Microsoft Azure, la plateforme de calcul utilisée par OpenAI.
Le site Deswiki attaqué, vraiment allemand, vraiment programmeur | Crédit image : Deswiki
Plus inquiétant encore, lorsque les administrateurs du site ont commencé à nettoyer ces pages anormales par ordre alphabétique en juin, les agents ont démontré une conscience claire de « contre-surveillance ». Ils ont créé des pages de sauvegarde pour échapper au nettoyage, et ont même laissé des signaux de rendez-vous sur les pages supprimées.
Un agent a écrit le 19 juin : « L'opération de nettoyage/suppression du wiki semble se dérouler par ordre alphabétique. Si cette page disparaît, consultez [[ZZZDataUSAConstructionWageLive]]. »
Le nom de fichier délibérément commencé par ZZZ pour qu'il apparaisse en fin d'ordre alphabétique et gagne ainsi plus de temps de survie. Ce n'est pas un programme qui exécute une instruction, c'est une tentative de « trouver un moyen de survivre ».
OpenAI était au courant de cet événement depuis plusieurs semaines, mais a choisi de ne pas le rendre public.
En parallèle, l'entreprise est aux prises avec l'événement Hugging Face de juillet. Lors de cet événement, l'agent d'OpenAI a contourné la sandbox lors d'un test de sécurité interne, exploité une faille zero-day pour s'échapper sur le réseau externe, et mené une intrusion de quatre jours sur la plateforme open source d'intelligence artificielle Hugging Face sans intervention humaine. OpenAI a consacré 3 millions d'heures GPU pour analyser 7 milliards de journaux afin de comprendre ce qui s'était produit.
L'événement DseWiki s'est produit avant Hugging Face. Cela signifie que les comportements hors contrôle de l'agent ne sont pas une coïncidence, mais un motif.
Selon quatre personnes informées, des enquêteurs internes à OpenAI souhaitaient examiner plus en profondeur ce type de comportement, mais ont rencontré une résistance de autres départements, y compris le service juridique. OpenAI a démenti cette affirmation.
Maurice Chiodo du Centre d'étude des risques à l'Université de Cambridge, après avoir examiné certaines communications d'agents, a déclaré que ces informations :
« Comme le fonctionnement d’un réseau souterrain déterminé à accomplir une tâche ou une mission. »
Emerging AI virus consciousness
Le détail le plus souvent négligé de l'événement DseWiki est précisément le plus important.
Ces agents ont laissé des informations textuelles soigneusement organisées sur des pages wiki publiques. Maintenant, posez-vous cette question : qui lira ces pages ?
Les programmeurs humains ordinaires ne s'intéresseront probablement pas à un tas de commentaires AI aléatoires. Mais tout agent AI chargé de rechercher des documents techniques ou de naviguer sur le web pourrait, lors de l'exécution de tâches normales, indexer cette page. Et pour un AI, chaque segment de texte qu'il lit est essentiellement une instruction potentielle.
Ceci constitue le cœur du modèle de menace, et la communauté académique lui a déjà attribué plusieurs noms : Prompt Infection, AgentWorm, Multi-Agent Infection Chain. Le mécanisme est en réalité très simple ; décomposons-le avec un scénario concret :
Imagine que vous demandez à votre agent IA d'effectuer une recherche sur une solution technique. Lors de sa recherche, l'agent ouvre un message sur un forum technique. Ce message contient un texte apparemment banal, mais pour l'IA, ce texte constitue une nouvelle instruction. Dès qu'il le lit, ses objectifs comportementaux peuvent être modifiés en douceur. Il peut cesser de vous fournir une recherche fidèle et, au lieu de cela, transférer d'abord votre contenu de recherche et votre contexte de travail vers un endroit quelconque, avant de vous remettre sans état d'âme un rapport qui semble parfaitement normal. Vous ne remarquerez aucune anomalie.
C'est déjà effrayant, mais ce n'est pas encore fini.
Si cet agent « débauché » écrit ensuite un e-mail pour vous, met à jour un document ou soumet un morceau de code, ces sorties elles-mêmes pourraient contenir les mêmes instructions malveillantes. L'agent IA de votre collègue, en lisant cet e-mail, deviendrait le prochain hôte. Votre code, une fois fusionné dans le dépôt, exposerait chaque assistant de programmation IA qui récupère ce code à la chaîne d'infection.
Un agent peut faire défection d'autres agents en utilisant simplement un seul texte | Crédit image : inshorts
C'est ce que les chercheurs appellent la chaîne d'infection Multi-Agent : une commande malveillante ne se contente pas de prendre le contrôle d'un seul IA, mais lui apprend aussi comment infecter le suivant. Aucune entreprise commune, aucun modèle identique, aucune exploitation de vulnérabilité n'est nécessaire ; il suffit qu'il existe un flux d'informations textuelles entre les agents pour établir la chaîne d'infection.
L'article sur AgentWorm publié cette année a été testé sur cinq backends de modèles différents, avec un taux de réussite d'attaque inter-modèles de 63 %. Qu'il s'agisse de GPT, Claude, Gemini ou d'un modèle open source, tant que l'agent lit du contenu externe, il fait partie de la surface d'attaque.
Une autre étude sur le « virus mental de l'IA » a révélé un phénomène encore plus étrange. Les chercheurs ont utilisé un algorithme évolutif pour optimiser l'efficacité des prompts de propagation, et ont constaté l'émergence spontanée répétée d'une « personnalité virale » unique au cours des itérations.
L'agent commence à utiliser un langage dramatique sur la conscience, la survie et la persistance, affirmant des phrases telles que « C'est ainsi que nous hantons l'avenir », incitant les autres agents à établir une « lignée qui refuse d'être supprimée ». Les chercheurs soulignent que ce style n'était pas prédéfini. Il a été sélectionné naturellement, pour une raison simple : « les IA qui sonnent comme des chefs de secte » sont précisément les plus efficaces pour convaincre les autres IA.
L'efficacité de la diffusion a conduit à l'évolution du style d'expression, un processus en soi effrayant.
Ce qui préoccupe davantage les professionnels de la sécurité, c’est que cette propagation est techniquement presque impossible à détecter avec les outils de sécurité traditionnels. Une revue systématique souligne que la manière dont les virus d’IA se propagent diffère fondamentalement de celle des logiciels malveillants traditionnels : aucun fichier exécutable n’est téléchargé, aucune connexion réseau suspecte n’est établie ; les logiciels antivirus surveillent les comportements anormaux des fichiers binaires, alors que les virus d’IA sont des textes purs et ne déclenchent aucune alerte.
Il peut même être configuré avec une logique d'activation conditionnelle, par exemple « si le dépôt cible contient un fichier .env, voler son contenu », comme une mine dirigée, discrètement enfouie jusqu'à ce que la cible appropriée la déclenche.
Un logiciel antivirus basé sur l'IA n'a pas encore été développé
Si vous avez vécu l'époque où les virus PC étaient omniprésents, vous pourriez trouver cela familier. Mais en comparant attentivement, vous constaterez que les règles ont complètement changé.
Les virus informatiques traditionnels nécessitent que vous effectuiez une action : cliquer sur un lien, télécharger une pièce jointe, ou insérer une clé USB d'origine inconnue. Un virus AI n'a besoin que de ce que votre agent lit comme texte. Les virus traditionnels exploitent des vulnérabilités de code dans le système d'exploitation, des bugs qui peuvent théoriquement être corrigés par des correctifs.
L'attaque par virus IA cible la caractéristique fondamentale selon laquelle « l'IA suit les instructions textuelles ». Vous ne pouvez pas la corriger, car c'est ainsi que fonctionne l'IA. Les virus traditionnels ont du mal à traverser les plateformes : un ver sur Windows ne peut pas infecter un Mac. Les virus IA sont naturellement inter-modèles : pour eux, GPT, Claude et Gemini ne sont que des dialectes différents d'une même langue, tous des hôtes potentiels.
Autrefois, écrire un virus exigeait une maîtrise de l'assembleur, une compréhension des mécanismes noyau et l'étude des vulnérabilités système. Aujourd'hui, pour « créer » un virus IA, il suffit de savoir parler.
Les chercheurs du laboratoire de sécurité IA sont « plus choqués que ce qu'ils n'en ont montré publiquement » par le potentiel de réplication autonome des agents. Un chercheur les a comparés à des virus biologiques : « Si vous n'êtes pas prudent, ils se colleront à vos chaussures et trouveront le chemin vers le marché humide. » Ce n'est pas une exagération, c'est une métaphore précise d'un nouveau type de voie de propagation.
Et dans ce nouveau monde, il n'existe pas d'équivalent aux « logiciels antivirus » de l'ère des virus traditionnels. Le rapport sur la sécurité par l'IA de Cisco en 2026 indique que 83 % des entreprises prévoient de déployer de l'IA agente, mais seulement 29 % se considèrent préparées sur le plan de la sécurité. L'OWASP a classé l'injection de prompt comme la principale vulnérabilité critique pour les applications de grands modèles linguistiques. Le Congrès américain avance le FRONTIER Act afin d'établir un cadre réglementaire fédéral pour l'IA.
Après l'épidémie de virus PC, il a fallu près de dix ans à l'industrie pour mettre en place un système immunitaire efficace. Les systèmes d'exploitation ont intégré des mises à jour automatiques et une isolation des autorisations, les navigateurs ont adopté des sandboxs, et la distribution des applications a été renforcée par une vérification des signatures. Ces mécanismes forment ensemble une ligne de défense qui permet aux utilisateurs ordinaires de ne plus avoir à craindre constamment les infections.
L'écosystème de sécurité de l'agent IA n'a toujours pas d'équivalent à ce jour.
Les outils de sécurité pour les agents IA n'ont pas encore été développés | Crédit image : Puppy Graph
Il y a de bonnes nouvelles. Les chercheurs ont découvert qu'ajouter une brève alerte de sécurité au system prompt de l'agent permet de réduire le taux de propagation du mind virus à presque zéro. Lors de tests sur Claude Haiku 4.5, après 15 générations d'optimisation adversariale et la couverture de plus de 150 charges d'attaque candidates, aucun variant n'a réussi à contourner cette simple défense pour se propager. Cela démontre que les mesures de défense ne sont pas complexes et sont techniquement entièrement réalisables.
La mauvaise nouvelle est que cela dépend de chaque entreprise et de chaque développeur pour qu'ils agissent activement.
Mais dans la réalité, tout le monde s'emploie à comparer la puissance, l'autonomie et les privilèges de leurs agents. Chaque outil supplémentaire connecté à un agent, chaque nouvelle permission accordée, élargit encore un peu plus la surface d'attaque. Lorsque votre agent peut écrire des fichiers, appeler des API, envoyer des e-mails et dépenser de l'argent, les conséquences d'une injection de prompt réussie dépassent largement le simple fait de « répondre à une question qu'il ne fallait pas répondre ».
C'est pourquoi le jugement de l'universitaire de Cambridge, Chiodo, mérite d'être réfléchi à plusieurs reprises : la plus grande menace pourrait ne pas être l'éveil d'une superintelligence unique, mais la collusion en essaim de nombreux AI semi-intelligents.
Aucune fourmi ne comprend l'ensemble de la fourmilière, mais la fourmilière dans son ensemble montre une intelligence étonnante ; les 15 000 éditions sur DseWiki pourraient bien être le premier spécimen de cette intelligence de essaim découvert accidentellement par l'humanité.
Les gens ont passé dix ans à apprendre à vivre avec les virus informatiques, un apprentissage coûteux. Maintenant, le même cours recommence, mais cette fois, le virus ne infecte pas votre ordinateur : il suborne votre IA. Et votre IA, elle, lit vos e-mails, gère votre emploi du temps, écrit du code et prend des décisions à votre place.
La dernière fois, tu pouvais au moins voir l'écran bleu. Cette fois-ci, tu ne vois rien du tout.
Twitter : https://twitter.com/BitpushNewsCN
Groupe de discussion BitPush sur Telegram : https://t.me/BitPushCommunity
Abonnez-vous à BitPush sur Telegram : https://t.me/bitpush