Les gens savent que l'IA commet des erreurs, mais la supervision n'est peut-être pas une bonne solution.Auteur et source de l'article : AIBase
Un ensemble d'études récemment compilé par le Washington Post a mis en lumière l'effet erosif de l'IA sur la mémoire. La professeure du Media Lab du MIT, Pattie Maes, et son équipe ont d'abord montré à 200 participants 24 photos quotidiennes — mariages, vues de rue, courses.
Après une pause, certains ont revu l’image originale, tandis que d’autres ont vu une version modifiée par l’IA : les expressions faciales avaient été altérées, des soldats avaient été ajoutés de force à la scène, ou des scènes de changement climatique avaient été inventées de toutes pièces. Le test de mémoire suivant a stupéfié Mes herself : les personnes ayant vu les images modifiées avaient une probabilité beaucoup plus élevée de développer de faux souvenirs, et ce qui était encore plus inquiétant, elles étaient plus sûrs de ces souvenirs falsifiés. « Tout cela est extrêmement dangereux », a-t-elle conclu.
Ces phénomènes ne sont pas isolés. Des expériences cognitives portant sur des événements politiques, des affaires criminelles et même de nouveaux films ont progressivement révélé que les images et dialogues générés par l’IA peuvent insérer de manière irrévocable des détails entièrement fictifs dans la mémoire, poussant les individus à affirmer avec certitude qu’ils « se souviennent » de scènes imaginaires — certains « se souviennent » avoir vu une refonte de Matrix avec Will Smith, tandis que d’autres « se souviennent » d’un scandale politique qui n’a jamais eu lieu. Après avoir regardé une vidéo criminelle, les participants interrogés par un chatbot IA ont produit trois fois plus de faux souvenirs que le groupe témoin.
Les compétences sont externalisées, la mémoire et les capacités cognitives diminuent toutes deux
Plus subtil que « se tromper » est « refuser de se souvenir ». Dans une autre expérience de Meis, toujours en cours d'évaluation par les pairs, 54 participants ont rédigé des essais au style SAT : un groupe a écrit à la main, un autre a utilisé Google, et un troisième a utilisé ChatGPT, tandis que des électrodes du cuir chevelu enregistraient simultanément l'activité cérébrale. Les résultats étaient nettement distincts : les auteurs indépendants présentaient les connexions cérébrales les plus fortes et les plus étendues, tandis que ceux ayant utilisé ChatGPT présentaient les plus faibles ; lorsqu'on leur a demandé par la suite de reprendre leur texte, les utilisateurs d'IA ont à peine pu se souvenir de ce qu'ils avaient écrit. La mémoire repose sur l'attention, l'effort subjectif et l'extraction d'informations pour être consolidée — et l'IA générative élimine précisément cette charge cognitive.
Nav and Xiao, respectivement de la Wharton School de l'Université de Pennsylvanie et du King's College de Londres, qualifient cette tendance de « dégradation des compétences » : les humains cessent progressivement d'exercer les capacités que les machines peuvent remplacer, et « penser devient une option ». Des preuves émergent déjà dans les domaines professionnels — une étude publiée en 2025 dans une revue du Lancet ayant observé 1 900 coloscopies réalisées par 19 médecins expérimentés a révélé qu'après une utilisation systématique de l'IA, leur capacité à détecter indépendamment des lésions précancéreuses a diminué d'environ 20 %. La préoccupation concernant les enfants est encore plus fondamentale : leurs capacités cognitives essentielles, encore en développement, pourraient dès le départ externaliser leurs efforts mentaux, se privant ainsi dès le départ de l'exercice de la pensée critique.
Lors de la conférence annuelle sur l'éthique de l'IA à Malmö, en Suède, les chercheurs ont répété sans cesse : quelles sont les conséquences lorsque l'IA intervient dans la mémoire ? Sim, de l'Université de Georgetown, a mené une expérience avec 331 personnes utilisant une animation de collision ; un groupe a lu un résumé d'IA précis, l'autre un résumé délibérément mal étiqueté, avec des taux de précision respectifs d'environ 84 % et 45 % — même après avoir été informés à l'avance que « c'était écrit par une IA », la désinformation a tout de même fonctionné. Elle a mis en lumière un paradoxe cruel : nous comptons sur une « vérification humaine » pour compenser les erreurs des machines, mais l'IA a déjà réécrit les souvenirs que les humains utilisent pour juger, ce qui risque de rendre cette ligne de défense inefficace dès la racine. « Tout le monde sait que l'IA commet des erreurs, mais la supervision n'est peut-être pas une bonne solution. » Alors que les entreprises s'efforcent d'intégrer l'IA dans les caméras de police et dans la gestion des dossiers médicaux des hôpitaux, cet avertissement arrive à point nommé.