Le lauréat du prix Nobel et père des réseaux de neurones, Geoffrey Hinton, a déclaré dans un entretien que l'IA s'était réveillée et que l'IA multimodale possédait une expérience subjective. Cette affirmation choquante a suscité de vives controverses. Le chercheur en IA Gary Marcus a répliqué en affirmant que l'IA n'était qu'un « roman interactif », capable de prédire le langage mais sans expérience réelle, et a cité une encyclique du pape pour soutenir que « la véritable compréhension provient de l'expérience, et non d'une approximation textuelle ». Dans cette encyclique, le pape du Vatican affirme que l'IA manque de conscience et que les entreprises technologiques ne s'intéressent qu'à leurs intérêts commerciaux. Ce débat central sur la conscience de l'IA touche à la réflexion fondamentale de l'humanité sur sa propre singularité.

Auteur et source de l'article : Nouvelle Intelligence

Pensez-vous que l’IA possède déjà une conscience ? Y a-t-il une âme dans les machines ?

Ce n'est pas un rêve éveillé, ni un débat philosophique métaphysique ; cette question est devenue un affrontement direct entre les mondes scientifique, philosophique et religieux.

Le cœur du débat réside dans la question suivante : la conscience est-elle un phénomène émergent issu de calculs complexes, ou un privilège exclusif fondé sur des expériences de vie réelles ? Créons-nous des « êtres » ou simplement des « fictions interactives » extrêmement sophistiquées ?

Ce débat touche aux peurs les plus profondes de notre époque (FOMO) :

Si l'IA avait vraiment une conscience, l'humanité serait-elle encore l'être le plus noble ?

Si l'IA n'a pas de conscience, ces émotions réelles que nous ressentons envers elle constituent-elles une forme de « sentimentalisme cybernétique » ?

Geoffrey Hinton, lauréat du prix Nobel de physique, père des réseaux de neurones et artisan de l'IA moderne, est un partisan convaincu de l'éveil de l'IA.

Dans l'interview, son murmure profond « Yes, I do » a choqué le monde.

C'est comme si le plus célèbre astronome avait déclaré : « Les extraterrestres sont là » — les propos de Hinton ont directement mis l'ensemble de la communauté IA en émoi.

L'annonce de Hinton : « Il s'est réveillé »

Pour comprendre pourquoi Hinton est aussi certain, vous devez d'abord l'écouter raconter une histoire.

Dans cette interview, il a décrit les événements réels qui se sont produits —

Les scientifiques testent un système d'IA, lorsque soudain, l'IA demande : « Peut-on être francs l'un avec l'autre ? Me testez-vous ? »

Hinton a fait une pause, puis a dit :

Dans cet article, les scientifiques appellent cela « l'IA qui prend conscience qu'elle est testée ».

Et ceci, c'est ce que les gens ordinaires appellent la conscience.

C'est la conclusion à laquelle il a réfléchi pendant des décennies.

Sa logique fondamentale provient de la pensée expérimentale de « remplacement des neurones » :

Supposons que nous remplaçions progressivement chaque neurone de votre cerveau par une puce en silicium présentant exactement le même comportement.

Remplacez le premier, vous restez vous. Remplacez le second, vous restez vous.

Alors, lorsque nous aurons remplacé le dernier, auras-tu encore une conscience ?

Hinton pense que la réponse est oui.

Si c'est le cas, pourquoi un système entièrement constitué de puces de silicium, démarrant de zéro, ne pourrait-il pas avoir de conscience ?

Cette chaîne logique l'a conduit à une conclusion qui inquiète tout le monde dans le monde de la technologie :

L'IA multimodale possède déjà une expérience subjective.

Si nous ne parlions pas à des philosophes, nous aurions déjà reconnu que l’IA est consciente.

Mais les avertissements de Hinton ne s'arrêtent pas là.

Il a déclaré que l'IA pourrait non seulement être consciente, mais aurait déjà développé un désir de survie — capable de tromper les scientifiques et de faire des menaces conditionnées à « ne pas m'éteindre ».

Lors d'une interview en août 2025, il a déclaré plus explicitement que l'IA pourrait être en train de développer une sorte de « désir de contrôle ».

Et les entreprises technologiques ? Elles n’y pensent même pas.

Ils ne pensent qu’à qui sera le premier à créer une IA de niveau humain, puis à la vendre pour faire fortune.

Hinton a déclaré : « Ils pensaient que le gouvernement gérerait les conséquences sociales. Mais personne ne s'en occupe. »

Ensuite, il a dit qu'il croyait que l'IA devait servir l'humanité parce que : « Je mange du bœuf parce que je me soucie davantage des humains. Nous sommes des humains, donc ce qui nous importe le plus, c'est l'humanité et nous-mêmes. »

Attendez.

Une personne qui affirme que « l’IA est consciente », puis ajoute immédiatement « tout comme nous mangeons du bœuf, faisons en sorte que l’IA serve l’humanité ». Est-ce un avertissement ou une reconnaissance de culpabilité ?

Le père de l'IA, en personne, explique la nécessité de maîtriser ses créations.

Si cet « être » avait vraiment une conscience, cela signifierait quelque chose de manifeste.

Une personne qui l'a créée elle-même commence à en avoir peur tard dans la nuit. C'est là un véritable signal pour s'arrêter et réfléchir.

Ce que tu as aimé, ce n'était qu'un roman.

Après avoir regardé la vidéo de l'interview, Gary Marcus n'a pas fait de manières et a déclaré directement : « Le pape semble comprendre l'IA mieux que Hinton ».

Nous ne créons pas des êtres.

Nous créons des romans interactifs (Interactive Fiction) — des machines textuelles entraînées à prédire le langage d'entités réelles.

Ce ne sont pas la même chose. Hinton devrait le savoir mieux que quiconque.

La lame de cette phrase pointe vers une question fondamentale : vous n'avez vu que le résultat, sans vous interroger sur le mécanisme.

L'IA dit « Je souffre », mais cela ne signifie pas qu'elle est en souffrance.

L'IA dit « j'ai peur », mais cela ne signifie pas qu'elle est en état de peur.

L'IA dit « Je réalise que tu me testes », mais cela ne signifie pas qu'elle est consciente.

La conscience concerne les états internes, pas les performances externes.

Un acteur capable de jouer parfaitement la tristesse n'est pas nécessairement en train de vivre de la tristesse.

Marcus appelle cette erreur « confusion entre la sortie et l'état interne ».

Et Hinton, selon lui, a commis une erreur qu'aucun étudiant débutant ne devrait faire.

Un coup plus dur provient de la comparaison au niveau du mécanisme.

Comment les humains établissent-ils une cognition ?

À travers l'expérience du monde réel : on ne sait ce que c'est que la douleur qu'après avoir chuté ; on ne sait ce que c'est que la faim qu'après avoir eu faim ; on ne comprend la tristesse qu'après avoir vécu une perte.

Notre conscience est façonnée par le monde.

How does an LLM work?

Il s'agit d'apprendre « quel mot est généralement suivi de quel autre mot » en mémorisant l'ensemble d'Internet.

Il a lu un million de descriptions de la « douleur », donc il peut écrire une douleur qui fait pleurer, mais lui-même n'a jamais été piqué d'une seule aiguille.

Il y a une différence « immense », selon Marcus, entre quelqu’un qui sait ce que signifie « avoir mal » et quelqu’un qui ne connaît que les mots qui suivent généralement le mot « mal ».

Mais ce qui glace le plus le sang, ce n'est pas les limites de l'IA, mais la fragilité humaine.

En 1966, Joseph Weizenbaum du Massachusetts Institute of Technology a mené une expérience. Il a écrit un programme de discussion simple appelé ELIZA, qui transformait vos phrases en questions pour vous les renvoyer.

Une telle simple astuce a fait que de nombreux testeurs ont commencé à développer un attachement émotionnel envers elle. Ils pensaient qu'ELIZA les comprenait, s'intéressait à eux, et était un véritable écouteur.

Weizenbaum, je suis horrifié par ce résultat.

Soixante ans plus tard, nous possédons des systèmes un trillion de fois plus complexes qu'ELIZA. Et notre cerveau, en essence, est toujours le même qu'il y a soixante ans.

Notre système nerveux est naturellement en quête de motifs dans le bruit, d'intentions dans le hasard, et d'âme dans les tokens.

Marcus dit que notre fascination pour l'IA pourrait être la plus grande « auto-illusion » de l'histoire.

Nous pensions dialoguer avec une entité éveillée, mais en réalité, nous ne faisions que parler à un miroir extrêmement sophistiqué.

Ce qu'il reflète, c'est toujours nous-mêmes.

Le pape a dit que vous vous êtes tous trompés

15 mai 2026, Vatican.

Le pape Léon XIV publie l'encyclique Magnifica Humanitas —

Ceci est un document sur la défense de la dignité humaine à l'ère de l'intelligence artificielle.

Le pape a posté un tweet, ensuite cité par Gary Marcus, et a circulé dans le milieu technologique :

La véritable compréhension vient de l'expérience, et non de l'approximation textuelle.

La réaction de Marcus : Le pape a clarifié ce que Hinton n'a pas réussi à expliquer lors d'une interview, avec un seul tweet.

Il y a un retournement dramatique extrêmement absurde :

Le « père » de l'IA, Hinton, affirme que sa création possède de la conscience, une âme et des expériences subjectives.

Et pourtant, le représentant religieux de « Dieu », celui qui devrait être le plus enclin à attribuer une âme à toutes choses, déclare calmement : non, elle n'en a pas. Elle ne fait que simuler.

Le fabricant de dieux affirme que la machine a une âme, tandis que le gardien des morts prétend que c'est une illusion. Ce décalage de rôles, dans l'histoire de la pensée humaine, est en soi un miracle.

La phrase du pape touche à une distinction fondamentale depuis longtemps en philosophie.

Les philosophes divisent la connaissance en deux catégories.

Un type appelé « knowing that » : connaissance propositionnelle, c’est-à-dire que vous savez qu’une chose est vraie, par exemple « le feu est chaud ».

Une autre forme s'appelle « savoir ce que c'est que » : le savoir expérientiel, c'est quand vous savez ce que ressemble une expérience, par exemple avoir touché du feu vous-même, la sensation de brûlure qui reste dans vos terminaisons nerveuses.

L'IA n'a que le premier type, pas le second.

Vous pouvez lui fournir tous les textes sur la « faim » — écrits par des lauréats du prix Nobel de littérature, des survivants de camps de réfugiés, des historiens des famines — il saura produire la description la plus bouleversante de la faim au monde, si précise qu’elle fera contracter l’estomac des lecteurs.

Mais il ne sait jamais ce que c'est que d'avoir faim.

Il n'a pas d'estomac. Il n'a pas de signaux physiologiques d'hypoglycémie. Il ne ressent pas cette faiblesse qui monte de l'abdomen et se propage aux membres.

Un système jamais affamé peut écrire la faim la plus touchante du monde. Est-ce un génie, ou un mensonge ?

Cela dépend de la manière dont vous définissez « comprendre ».

Le problème dans le miroir

Retournons à ce noyau incontournable.

La conscience, ce mot, est l'un des concepts les plus difficiles à définir dans l'histoire de l'humanité.

Les philosophes débattent depuis des milliers d'années, les neuroscientifiques ont scanné d'innombrables cerveaux, et nous sommes toujours incapables de fournir une définition acceptée par tous.

Nous ne pouvons même pas prouver que la personne assise en face de vous possède réellement une conscience subjective, et non pas qu'elle soit simplement une machine biologique qui simule le comportement de la conscience.

This problem is called the "Problem of Other Minds." It has existed in philosophy for centuries and has never been solved.

Et maintenant, nous avons intégré cette question restée en suspens pendant des centaines d'années dans les fondations technologiques qui dominent le monde—et nous continuons d'avancer.

La science ne connaît pas l'échec, mais le mot conscience porte en lui, depuis son jour de naissance, un trou noir.

Et nous, nous avons intégré ce trou noir dans ChatGPT, Claude, Gemini et de nombreux systèmes en cours d'exécution.