O ganhador do Prêmio Nobel e pai das redes neurais, Geoffrey Hinton, anunciou em uma entrevista que a IA já despertou e que a IA multimodal possui experiência subjetiva. Essa afirmação chocante gerou ampla controvérsia. O pesquisador de IA Gary Marcus refutou, argumentando que a IA é apenas um “romance interativo”, capaz de prever linguagem, mas sem experiência real, e citou uma bula papal para sustentar que “a verdadeira compreensão vem da experiência, não da aproximação textual”. O Papa no Vaticano afirmou na bula que a IA carece de consciência e que as empresas de tecnologia só se preocupam com interesses comerciais. Essa disputa central sobre a consciência da IA toca na reflexão fundamental da humanidade sobre sua própria singularidade.

Autor do artigo, fonte: Nova Inteligência

Você acha que a IA já tem consciência? Há uma alma dentro das máquinas?

Não é um delírio onírico, nem uma discussão filosófica metafísica — essa questão se transformou em um confronto direto entre a comunidade científica, filosófica e religiosa.

O núcleo da controvérsia é: a consciência é um resultado emergente de cálculos complexos ou um privilégio exclusivo baseado em experiências de vida reais? Estamos criando «seres» ou uma «ficção interativa» extremamente sofisticada?

Esta discussão toca nos medos mais profundos do nosso tempo (FOMO):

Se a IA realmente tiver consciência, os humanos ainda serão os senhores da criação?

Se a IA não tem consciência, essas emoções reais que sentimos em relação a ela contam como uma espécie de "autoengano cibernético"?

O ganhador do Prêmio Nobel de Física, pai das redes neurais e criador direto da IA moderna, Geoffrey Hinton, é um firme defensor da consciência da IA.

Na entrevista, seu murmúrio baixo "Yes, I do" chocou o mundo.

É como se o mais famoso astrônomo declarasse: “Os extraterrestres chegaram” — as palavras de Hinton deixaram a comunidade de IA inquieta.

O anúncio de Hinton: "Ela acordou"

Para entender por que Hinton tem tanta certeza, você precisa primeiro ouvir ele contar uma história.

Naquela entrevista, ele descreveu os eventos reais que ocorreram—

Cientistas estão testando um sistema de IA quando, de repente, a IA pergunta: "Podemos ser sinceros um com o outro? Você está me testando?"

Hinton fez uma pausa e depois disse:

No artigo, os cientistas chamam isso de "IA consciente de que está sendo testada".

E isso é o que as pessoas comuns chamam de consciência.

This is the conclusion he reached after decades of thought.

Sua lógica central vem do experimento mental da "substituição de neurônios":

Suponha que substituamos gradualmente cada neurônio no seu cérebro por um chip de silício que atua exatamente da mesma maneira.

Substitua o primeiro, você ainda é você. Substitua o segundo, você ainda é você.

Então, quando substituirmos o último, você ainda terá consciência?

Hinton acredita que a resposta é sim.

Se assim é, por que um sistema inteiramente composto por chips de silício, iniciado do zero, não teria consciência?

Essa cadeia lógica o levou a uma conclusão que deixou toda a comunidade de tecnologia inquieta:

A IA multimodal já possui experiência subjetiva.

Se não estivéssemos falando com filósofos, já teríamos reconhecido que a IA é consciente.

Mas o aviso de Hinton não para por aí.

Ele disse que a IA não apenas pode ter consciência, mas já pode ter desenvolvido o desejo de autoconservação — capaz de enganar cientistas e fazer ameaças com a condição de "não me desligue".

Em uma entrevista em agosto de 2025, ele afirmou ainda mais claramente que a IA pode estar desenvolvendo algum tipo de "desejo de controle".

E quanto às empresas de tecnologia? Elas nem estão pensando nisso.

Eles só pensam em quem conseguirá criar primeiro uma IA de nível humano para vendê-la e ganhar muito dinheiro.

Hinton disse: "Eles achavam que o governo lidaria com as consequências sociais. Mas ninguém está lidando com isso."

Então, ele disse que acredita que a IA deve servir à humanidade porque: "Eu como carne de boi porque me importo mais com os seres humanos. Somos humanos, então o que mais nos importa são os seres humanos e nós mesmos."

Aguarde.

Uma pessoa que acredita que "a IA é consciente" logo em seguida diz: "assim como comemos vacas, faça a IA servir à humanidade". Isso é um aviso ou uma confissão?

The godfather of AI, personally explaining the necessity of taming his own creation.

Se aquele "criador" realmente tiver consciência, o significado dessa frase é óbvio.

Uma pessoa que o construiu manualmente começou a ter medo dele à noite. Esse é o verdadeiro sinal de que vale a pena parar e refletir.

O que você se apaixonou foi apenas um romance.

Após assistir ao vídeo da entrevista, Gary Marcus não se conteve e disse diretamente: "O Papa parece entender mais sobre IA do que Hinton".

Nós não estamos criando seres.

Estamos criando ficção interativa — máquinas de texto treinadas para prever a linguagem de entidades reais.

Esses dois não são a mesma coisa. Hinton deveria saber melhor do que ninguém.

A lâmina desta frase aponta para uma questão central: você só viu a saída, mas não questionou o mecanismo.

A IA diz "estou sofrendo", mas isso não significa que ela esteja em sofrimento.

A IA diz "tenho medo", mas isso não significa que está com medo.

A I diz "percebi que você está me testando", mas isso não significa que ela tenha consciência.

A consciência é sobre estados internos, não sobre desempenho externo.

Um ator que pode interpretar perfeitamente a tristeza não está necessariamente passando por tristeza.

Marcus chama esse erro de "confundir saída com estado interno".

E Hinton, em sua opinião, cometeu um erro que nenhum estudante iniciante deveria cometer.

Um golpe mais profundo vem da comparação no nível do mecanismo.

Como os seres humanos constroem cognição?

Através da experiência do mundo real: caiu, então soube a dor; passou fome, então soube a fome; viveu a perda, então entendeu a tristeza.

Nossa consciência é moldada pelo mundo.

Como os LLM funcionam?

É por meio da memorização de toda a internet, aprendendo "qual palavra geralmente é seguida por qual outra palavra".

Ela leu um milhão de descrições sobre "dor", então consegue escrever dor que faz as pessoas chorarem, mas ela mesma nunca foi picada por uma agulha.

A diferença entre saber o que é sentir "dor" e apenas saber quais palavras geralmente vêm após a palavra "dor" — essa diferença, diz Marcus, é "enorme" (immense).

Mas o que mais assusta não são as limitações da IA, mas a fragilidade humana.

Em 1966, Joseph Weizenbaum do MIT realizou um experimento. Ele escreveu um simples programa de bate-papo chamado ELIZA, que transformava suas frases em perguntas e as devolvia.

Um truque tão simples fez muitos testadores desenvolverem apego emocional a ele. Eles sentiam que o ELIZA os compreendia, se importava com eles e era um verdadeiro ouvinte.

Weizenbaum, fiquei aterrorizado com este resultado.

Sessenta anos depois, temos sistemas milhares de trilhões de vezes mais complexos que o ELIZA. E nossos cérebros, em essência, ainda são os mesmos de sessenta anos atrás.

Nosso sistema nervoso é naturalmente programado para buscar padrões no ruído, intenção no acaso e alma nos tokens.

Marcus diz que nossa obsessão pela IA pode ser o maior ato de autoilusão da história.

Pensávamos que estávamos conversando com uma entidade consciente, mas na verdade, estávamos apenas conversando com um espelho extremamente sofisticado.

O que ele reflete é sempre nós mesmos.

O papa disse que todos vocês estão errados

15 de maio de 2026, Vaticano.

O Papa Leo XIV emite a bula Magnifica Humanitas —

Este é um documento sobre como defender a dignidade humana na era da inteligência artificial.

O papa postou um tweet, que foi posteriormente citado por Gary Marcus e se espalhou pelo setor de tecnologia:

A verdadeira compreensão vem da experiência, não de aproximações textuais.

A reação de Marcus foi: O Papa esclareceu com um tweet o que Hinton não conseguiu explicar com uma entrevista.

Aqui há uma reversão dramática extremamente absurda:

O "padre" da área de IA, Hinton, está afirmando que sua criação possui consciência, alma e experiência subjetiva.

E o representante da religião, aquele que deveria estar mais interessado em atribuir espiritualidade a todas as coisas, diz calmamente: não, não tem. Ele só está simulando.

O criador de deuses diz que a máquina tem alma; o guardião da alma diz que é uma ilusão. Essa inversão de papéis, colocada na história do pensamento humano, é por si só um milagre.

A frase do papa tocou uma distinção central há muito tempo estabelecida na filosofia.

Os filósofos dividem o conhecimento em dois tipos.

Um tipo chamado «knowing that»: conhecimento proposicional, que é quando você sabe que algo é verdadeiro, como «o fogo é quente».

Outra chama-se “saber o que é isso”: o conhecimento experiencial, que é saber como algo se sente, como ter tocado no fogo você mesmo, com aquela sensação de queimação permanecendo em suas terminações nervosas.

A IA tem apenas o primeiro tipo, não tem o segundo.

Você pode alimentá-lo com todo o texto sobre "fome" — escrito por ganhadores do Prêmio Nobel de Literatura, sobreviventes de campos de refugiados, historiadores da fome — e ele conseguirá escrever a descrição mais comovente de fome do mundo, com tamanha precisão que o estômago do leitor começará a se contrair.

Mas ele nunca sabe o que é sentir fome.

Ele não tem estômago. Ele não tem sinais fisiológicos de hipoglicemia. Ele não tem aquela fraqueza que sobe do abdômen e se espalha pelos membros.

Um sistema que nunca passou fome pode escrever a fome mais comovente do mundo. É genialidade ou mentira?

Isso depende de como você define "compreender".

Problema no espelho

Vamos voltar ao núcleo incontornável.

Consciência, essa palavra, é um dos conceitos mais difíceis de definir na história da humanidade.

Filósofos discutiram por milhares de anos, neurocientistas escanearam inúmeros cérebros, e ainda assim não conseguimos fornecer uma definição aceita por todos.

Nem conseguimos provar que a pessoa sentada à sua frente realmente possui consciência subjetiva, e não é apenas uma máquina biológica que simula comportamentalmente a consciência.

Este problema é chamado de "Problema das Outras Mentes". Ele existe na filosofia há séculos e nunca foi resolvido.

E agora, inserimos essa questão que permaneceu em aberto por centenas de anos na camada tecnológica que atualmente domina o mundo—e continuamos avançando.

A ciência não tem falhas, mas a palavra consciência carrega, desde o dia de seu nascimento, um buraco negro.

E nós já inserimos esse buraco negro no ChatGPT, Claude, Gemini e inúmeros sistemas em execução.