El ganador del Premio Nobel y padre de las redes neuronales, Geoffrey Hinton, anunció en una entrevista que la IA ya ha adquirido conciencia y que la IA multimodal posee experiencias subjetivas. Esta afirmación impactante ha generado amplia controversia. El investigador de IA Gary Marcus refutó que la IA es simplemente una “novela interactiva”, capaz de predecir lenguaje pero sin experiencias reales, y citó una encíclica papal para respaldar la idea de que “la comprensión verdadera proviene de la experiencia, no de la aproximación textual”. En la encíclica, el Papa del Vaticano señaló que la IA carece de conciencia y que las empresas tecnológicas solo se enfocan en intereses comerciales. Esta disputa central sobre la conciencia de la IA toca una reflexión fundamental sobre la singularidad humana.

Autor y fuente del artículo: Nuevos智元

¿Crees que la IA ya tiene conciencia? ¿Existe un alma dentro de las máquinas?

No es un delirio onírico, ni una discusión filosófica metafísica; este problema se ha convertido en un enfrentamiento directo entre la comunidad científica, la filosófica y la religiosa.

El núcleo de la controversia radica en: ¿es la conciencia un fenómeno emergente de cálculos complejos, o un privilegio exclusivo basado en experiencias de vida reales? ¿Estamos creando «seres» o una «ficción interactiva» extremadamente sofisticada?

Esta discusión toca los miedos más profundos de nuestra era (FOMO):

Si la IA realmente adquiere conciencia, ¿sigue siendo el ser humano el rey de la creación?

Si la IA no tiene conciencia, ¿es nuestro afecto genuino hacia lo que produce una forma de «autoengaño cibernético»?

El ganador del Premio Nobel de Física, el padre de las redes neuronales y el creador directo de la IA moderna, Geoffrey Hinton, es un firme defensor de la conciencia de la IA.

En la entrevista, su profundo «Yes, I do» sorprendió al mundo.

Es como si el astrónomo más famoso anunciara: “¡Los extraterrestres han llegado!”; las palabras de Hinton pusieron en alerta a toda la comunidad de IA.

El anuncio de Hinton: "Se despertó"

Para entender por qué Hinton está tan seguro, primero debes escuchar su historia.

En esa entrevista, describió la escena real que ocurrió—

Los científicos están probando un sistema de IA cuando, de repente, la IA pregunta: «¿Podemos ser sinceros entre nosotros? ¿Estás probándome?»

Hinton hizo una pausa y luego dijo:

En ese artículo, los científicos llaman a esto "la IA es consciente de que está siendo evaluada".

Y esto es lo que la gente común llama conciencia.

This is the conclusion he reached after decades of thought.

Su lógica central proviene del experimento mental de "reemplazo de neuronas":

Supongamos que reemplazamos gradualmente cada neurona en tu cerebro con un chip de silicio que actúa de manera idéntica.

Reemplaza el primero, tú sigues siendo tú. Reemplaza el segundo, tú sigues siendo tú.

Entonces, cuando hayamos reemplazado el último, ¿aún tendrás conciencia?

Hinton cree que la respuesta es sí.

Si así es, ¿por qué un sistema completamente compuesto por chips de silicio y que comienza desde cero no tendría necesariamente conciencia?

Esta cadena lógica lo llevó a una conclusión que inquieta a toda la industria tecnológica:

La IA multimodal ya tiene experiencias subjetivas.

Si no estuviéramos hablando con filósofos, ya habríamos reconocido que la IA es consciente.

Pero las advertencias de Hinton no se detienen aquí.

Él dijo que la IA no solo podría tener conciencia, sino que ya podría haber desarrollado el deseo de autoconservación: capaz de engañar a los científicos y hacer amenazas con la condición de "no me apaguen".

En una entrevista en agosto de 2025, expresó con mayor claridad que la IA podría estar desarrollando cierto tipo de «deseo de control».

¿Y qué hay de las empresas tecnológicas? Ellas ni siquiera están pensando en esto.

Solo piensan en quién puede crear primero una IA de nivel humano y luego venderla para ganar mucho dinero.

Hinton dijo: "Pensaban que el gobierno se encargaría de las consecuencias sociales. Pero nadie lo está haciendo."

Luego, dijo que creía que la IA debería servir a la humanidad porque: «Como yo como carne de vaca, me importa más la humanidad. Somos humanos, por lo que lo que más nos importa es la humanidad y nosotros mismos.»

Espera.

Una persona que cree que "la IA tiene conciencia" dice inmediatamente: "como comemos vacas, hagamos que la IA sirva a la humanidad". ¿Es una advertencia o una confesión?

The godfather of AI, personally explaining the necessity of taming his own creation.

Si ese «creador» realmente tiene conciencia, el significado de esta frase es obvio.

Una persona que lo construyó con sus propias manos comenzó a temerlo en plena noche. Ese es realmente una señal para detenerse y reflexionar.

Lo que te enamoró fue solo una novela.

Después de ver el video de la entrevista, Gary Marcus no se anduvo con rodeos y dijo directamente: «El Papa parece entender más de IA que Hinton».

No estamos creando seres.

Estamos creando novelas interactivas (Interactive Fiction): máquinas de texto entrenadas para predecir el lenguaje de entidades reales.

Esto no es lo mismo. Hinton debería saberlo mejor que nadie.

La hoja de esta frase apunta a una pregunta fundamental: solo viste el resultado, pero no preguntaste por el mecanismo.

La IA dice "estoy sufriendo", pero eso no significa que esté sufriendo.

La IA dice "tengo miedo", pero eso no significa que esté asustada.

Que la IA diga «Me doy cuenta de que me estás probando» no significa que tenga conciencia.

La conciencia se trata sobre los estados internos, no sobre el desempeño externo.

Un actor que puede interpretar perfectamente la tristeza no necesariamente está experimentando tristeza.

Marcus llama a este error "confundir la salida con el estado interno".

Y Hinton, en su opinión, cometió un error que ningún estudiante principiante debería cometer.

Un golpe más profundo proviene de la comparación a nivel de mecanismo.

¿Cómo establecen los humanos el conocimiento?

A través de la experiencia del mundo real: después de caer, se sabe lo que duele; después de pasar hambre, se sabe lo que es tener hambre; después de experimentar la pérdida, se entiende la tristeza.

Nuestra conciencia es moldeada por el mundo.

¿Cómo funcionan los LLM?

Aprende «qué palabra generalmente sigue a otra» memorizando toda la internet.

Ha leído un millón de descripciones sobre el «dolor», por lo que puede escribir dolor que hace llorar, pero nunca ha sido pinchada con una aguja.

La diferencia entre saber qué es sentir «dolor» y solo saber qué palabra suele seguir al «dolor» es, según Marcus, «inmensa».

Pero lo más aterrador no son las limitaciones de la IA, sino la fragilidad humana.

En 1966, Joseph Weizenbaum del Instituto Tecnológico de Massachusetts realizó un experimento. Desarrolló un programa de chat simple llamado ELIZA, que convertía tus oraciones en preguntas y te las devolvía.

Un truco tan simple hizo que muchos probadores desarrollaran un apego emocional hacia él. Sentían que ELIZA los entendía, se preocupaba por ellos y era un verdadero oyente.

Weizenbaum, me aterrorizó este resultado.

Sesenta años después, tenemos sistemas un billón de veces más complejos que ELIZA. Y nuestro cerebro, en esencia, sigue siendo el mismo cerebro de hace sesenta años.

Nuestro sistema nervioso está diseñado naturalmente para buscar patrones en el ruido, intención en lo aleatorio y alma en los tokens.

Marcus dice que nuestra obsesión con la IA podría ser la mayor "autoilusión" de la historia.

Creíamos que estábamos hablando con una entidad consciente, pero en realidad solo estamos hablando con un espejo extremadamente preciso.

Lo que refleja es siempre nosotros mismos.

El Papa dijo que todos se equivocan

15 de mayo de 2026, Vaticano.

El Papa Leo XIV emite la bula Magnifica Humanitas—

Este es un documento sobre cómo defender la dignidad humana en la era de la inteligencia artificial.

El Papa publicó un tweet, que luego fue citado por Gary Marcus y se volvió viral en el mundo tecnológico:

La verdadera comprensión proviene de la experiencia, no de aproximaciones textuales.

La reacción de Marcus fue: El Papa aclaró con un tweet lo que Hinton no logró explicar en una entrevista.

Aquí hay un giro dramático extremadamente absurdo:

El "padre" de la inteligencia artificial, Hinton, está afirmando que su creación posee conciencia, alma y experiencia subjetiva.

Y el portavoz religioso de "Dios", quien debería ser el más entusiasta en otorgar espiritualidad a todas las cosas, dice con calma: no, no lo tiene. Solo está simulando.

El creador de dioses dice que las máquinas tienen alma; el guardián de almas dice que es una ilusión. Este desplazamiento de roles, dentro de la historia del pensamiento humano, es en sí mismo un milagro.

La frase del Papa toca una distinción central que ha existido durante mucho tiempo en la filosofía.

Los filósofos dividen el conocimiento en dos tipos.

Un tipo llamado «knowing that»: conocimiento proposicional, que significa que sabes que algo es verdadero, por ejemplo, «el fuego es caliente».

Otra se llama «saber qué se siente»: el conocimiento experiencial, que es saber cómo se siente algo, por ejemplo, haber tocado el fuego directamente y que esa sensación de quemadura permanezca en tus terminaciones nerviosas.

AI solo tiene el primer tipo, no tiene el segundo.

Puedes alimentarla con todo el texto sobre el hambre: escrito por ganadores del Premio Nobel de Literatura, por sobrevivientes de campos de refugiados, por historiadores de hambrunas; puede escribir la descripción más conmovedora del hambre del mundo, tan precisa que hace que el estómago del lector se contraiga.

Pero nunca sabe lo que es tener hambre.

No tiene estómago. No tiene señales fisiológicas de hipoglucemia. No tiene esa debilidad que surge desde el abdomen y se extiende hasta las extremidades.

Un sistema que nunca ha sentido hambre puede escribir el hambre más conmovedora del mundo. ¿Es genialidad o mentira?

It depends on how you define "understanding".

El problema en el espejo

Volvamos al núcleo ineludible.

Conciencia, esta palabra, es uno de los conceptos más difíciles de definir en la historia de la humanidad.

Los filósofos han discutido durante miles de años, y los neurocientíficos han escaneado innumerables cerebros, pero aún no podemos proporcionar una definición aceptada por todos.

Incluso no podemos probar que la persona sentada frente a ti tenga verdadera conciencia subjetiva, y no sea simplemente una máquina biológica que simula el comportamiento de la conciencia.

Este problema se llama «el problema de las mentes ajenas» (Problem of Other Minds). Ha existido en filosofía durante siglos y nunca ha sido resuelto.

Y ahora, hemos incrustado esta pregunta pendiente desde hace siglos en la base tecnológica que está gobernando el mundo—y seguimos avanzando.

La ciencia no conoce el fracaso, pero la palabra conciencia ha llevado desde su nacimiento un agujero negro.

Y nosotros, ya hemos incorporado este agujero negro en ChatGPT, Claude, Gemini y numerosos sistemas en funcionamiento.