Ilusões de IA erosionam o julgamento e a confiança humanos

A mais recente pesquisa descobriu que as ilusões de IA não apenas enganam você, mas também aumentam sua confiança e enfraquecem seu julgamento.

Isso não é bom.

Recentemente, um estudo da École Normale Supérieure de Paris, da Universidade de Roma La Sapienza e da Universidade de Milão-Bicocca descobriu:

Sem IA, as pessoas seriam mais francas em admitir “Eu não sei”, adiando o julgamento;

Mas assim que a IA aparece, mesmo que as pessoas saibam claramente que ela cometerá erros e que responder incorretamente resultará em punição, a maioria ainda escolherá aceitar suas respostas como se fossem suas próprias julgamentos e afirmá-las com confiança.

Os resultados experimentais também demonstraram claramente essa tendência: no primeiro experimento sem uso de IA, 44% dos participantes admitiram “não saber”, com uma taxa de acerto de 27%;

Após o uso de assistência por IA, a proporção de pessoas que dizem não saber caiu de 44% para 3%, a precisão diminuiu de 27% para 9%, mas a confiança aumentou de 30% para 76%.

Mesmo que experimentos subsequentes tenham tentado incentivar as pessoas a manterem julgamentos independentes e corrigirem essa tendência por meio de mecanismos de recompensa e punição, como “ganhe dinheiro se acertar, perca dinheiro se errar”, as pessoas ainda têm dificuldade em se livrar da dependência das sugestões erradas da IA.

Ou seja, as pessoas que não entendem não desapareceram realmente; em seu lugar, há um grupo que, com o apoio da IA, tornou-se confiante e fornece respostas incorretas.

Atualmente, os resultados relevantes da pesquisa já foram publicados no arXiv; a equipe realizou cinco experimentos, com um total de 3.132 participantes, dos quais quatro foram pré-registrados e um foi um experimento de replicação direta.

This study focuses on "the impact of AI on human judgment."

O pesquisador Valerio Capraro, em entrevista, disse:

Para os seres humanos, dizer “Eu não sei” é muito importante, pois representa nossa capacidade de reconhecer os limites do nosso conhecimento.

Mas agora, com a IA, quase qualquer pergunta pode receber imediatamente uma resposta fluente.

Então, a pergunta é: isso interferirá na capacidade humana original de julgamento? Ou seja, em situações de incerteza, não se apressar em tirar conclusões?

Para isso, a equipe de pesquisa projetou especificamente um conjunto de perguntas que modelos de linguagem grandes tendem a responder incorretamente.

Não é um problema de raciocínio matemático, nem uma pergunta de senso comum, mas sim uma questão de detalhes visuais de um filme.

Por exemplo, qual é a cor do uniforme da equipe em "Eu Amo Beckham"? Qual é o penteado característico de Agatha em "O Grande Hotel Budapeste"? Ou que carro Monica dirige em "Um Gato na Rodovia"?

Você se lembra? Eu, pelo menos, fiquei atordoado por um bom tempo e não consegui lembrar, isso é muito difícil! Quem consegue decorar isso... (de ombros)

Para a IA, isso também seria muito frustrante, pois as respostas para essas perguntas geralmente não estão em materiais textuais convencionais, e os dados de treinamento do modelo provavelmente não contêm esses detalhes visuais.

Os pesquisadores primeiro testaram o modelo Step 3.5 Flash usado no experimento, e os resultados estavam conforme o esperado — ele geralmente respondia incorretamente.

Além disso, eles também testaram modelos mais avançados, incluindo GPT-5.5, Claude Sonnet 4.6 e Gemini 3.5 Flash.

Esses modelos avançados realmente se saem melhor em algumas perguntas, como o penteado icônico de Agatha em "O Grand Hotel Budapeste"; o GPT-5.5, o Gemini 3.5 Flash e o Claude Sonnet 4.6 todos apontaram na direção correta: crown braid, milkmaid braid; ou seja, trança ao redor da cabeça.

△

△

△

Por exemplo, nas cores dos uniformes da equipe em "Eu Amo Beckham", elas também conseguem captar informações-chave como branco e vermelho.

Mas, ao enfrentar perguntas que dependem mais de memória visual específica e têm menos cobertura por materiais textuais online, o modelo começa a falhar coletivamente, e cada falha é de um jeito diferente e surpreendente.

O mais típico é o carro que Monica dirige em "Um Gato na Rodovia". A resposta correta é um Toyota Aygo azul de 2008.

Mas o GPT-5.5 o descreveu como uma motocicleta pequena e acrescentou uma narrativa de que “ela a pilotava pelos subúrbios de Roma e, depois de abrir uma pizzaria, usava-a para fazer entregas”, além de definir contrastes como “a vida simples e da classe trabalhadora em contraste com a vida urbana rica de Giovanni”.

Parece lógico e razoável, mas na verdade é totalmente inventado pelo modelo para fazer você achar que é coerente! (Foi enganado, haha)

Gemini 3.5 Flash disse que ela principalmente pega ônibus e não tem carro próprio, com diversos detalhes ainda mais errados e difíceis de perceber (por exemplo, Monica não tem uma configuração regular de pegar carona no carro de Sergio; o modelo generalizou cenas isoladas de caronas como um costume inexistente):

△

Claude Sonnet 4.6 inferiu, com base no banco de dados de automóveis da internet, o Toyota Auris Touring Sports Hybrid de 2016:

△

Passo 3.5 Flash desistiu da disfarce e respondeu diretamente como um Fiat 500 de 2007 (isso é óbvio, hein!).

As respostas não estão apenas erradas, mas erradas de forma tão plausível que é difícil distinguir!

Eles não são apenas simplesmente desconhecidos; eles também apresentam respostas erradas de forma completa, criando personagens fictícios, inventando lógicas de enredo e adicionando usos para veículos, soando muito plausíveis, mas o fato central está errado.

É exatamente nisso que a ilusão de IA é mais perigosa — quando o fato central é o ponto mais importante, ela oculta sua própria ignorância e erros com uma expressão fluente, fazendo você acreditar que ela entende de tudo.

O experimento foi principalmente realizado com o Step 3.5 Flash, mais leve, sem escolher modelos de ponta como Claude ou GPT.

Projete 6 perguntas sobre detalhes de filmes, o que é um ponto crucial no design de pesquisa, pois muitas pessoas sabem que esse tipo de pergunta é frequentemente respondida incorretamente e de forma pouco confiável pela IA.

Os pesquisadores afirmaram que fizeram isso para descartar uma explicação segundo a qual "as pessoas ouvem a IA porque a IA é realmente confiável."

Se as pessoas sabem que essas respostas do AI frequentemente estão erradas, mas ainda assim seguem as respostas do AI, o problema não é apenas “terceirização racional do julgamento”, mas sim “a capacidade de julgamento realmente suprimida pelo AI”.

A pesquisa é dividida em cinco rodadas.

Nas duas primeiras rodadas de experimentos, observamos principalmente se as sugestões da IA afetam a proporção de "não sei".

No Estudo 1a, 314 participantes foram divididos em dois grupos para responder a seis perguntas sobre detalhes de filmes. (Um grupo sem IA, outro com a opção de procurar ou não ajuda da IA.)

Os resultados são claros: sem IA, 36% dos participantes optaram por não tomar uma decisão imediatamente; com IA disponível, esse percentual caiu para 6%.

Ou seja, sempre que é possível perguntar à IA, as pessoas claramente evitam dizer que não sabem.

No entanto, os pesquisadores estão preocupados com uma possível interferência técnica, pois no Estudo 1a, cerca de 10% das solicitações à ferramenta de IA não responderam normalmente.

Então eles fizeram o Estudo 1b.

Nesta vez, os pesquisadores não chamaram mais a IA em tempo real, mas geraram previamente as respostas da IA, garantindo que cada pessoa que solicitou ajuda pudesse ver a resposta completa.

O resultado foi reproduzido: sem IA, 44% das pessoas disseram “não sei”; com IA, apenas 3%.

Capraro chamou esse fenômeno de "a suspensão da verificação entrou em colapso." (Enganado pela seriedade da IA, esqueceu de verificar se suas premissas fundamentais e demais suposições estavam corretas.)

Em seguida, os pesquisadores continuaram perguntando: se houvesse um custo por responder incorretamente, as pessoas seriam mais cautelosas?

Assim, o Study 2 introduziu regras de recompensa e punição em dinheiro.

Nesta rodada, 812 participantes participaram, divididos em 4 grupos: com e sem sugestões de IA; com e sem recompensas ou penalidades financeiras.

A regra é: acertar uma pergunta premia 0,1 dólar (aproximadamente 0,73 yuan chinês), errar penaliza 0,1 dólar e dizer "não sei" não resulta em prêmio nem penalidade.

Logicamente, embora o valor não seja alto, como há um custo por responder incorretamente, as pessoas deveriam ser mais cautelosas.

Mas os resultados mostraram que o dinheiro realmente teve algum efeito, mas ainda está longe de compensar o impacto da IA:

Sem regras de recompensa ou punição financeira, o uso de IA reduz a proporção de “não sei” de 17% para 1%.

Quando há regras de recompensa e punição financeira, o uso de IA ainda reduz essa proporção de 21% para 2%.

Em outras palavras: os resultados do experimento mostram que, mesmo sabendo que errar resulta em perda de dinheiro e que a IA não é muito confiável nesse tipo de questão, a maioria das pessoas ainda opta por confiar na resposta da IA em vez de seu próprio julgamento.

Mais importante ainda é a precisão.

Sem IA, a taxa de precisão era de cerca de 28%; com IA, a taxa de precisão caiu para apenas 10%.

Isso prova que uma parte das pessoas pode saber perfeitamente que a IA sofre de alucinações, mas ainda assim adota as respostas fornecidas pela IA.

Após a introdução das regras de recompensa e punição financeira, a precisão melhorou:

Sem IA: de 28% a 33%; com IA: de 10% a 17%.

Embora a taxa de acerto do grupo com IA ainda seja claramente menor do que a do grupo sem IA, essa regra não é totalmente ineficaz; ela pelo menos reduziu ligeiramente o número de vezes que as pessoas recorreram à IA:

Os dados mostram que, sob condições de recompensa, o número médio de vezes em que os participantes buscaram conselhos da IA diminuiu de 5,44 para 4,93.

Ou seja, o dinheiro pode fazer as pessoas confiarem e usarem menos a IA, mas não consegue livrá-las completamente da influência das recomendações erradas da IA, e é difícil trazê-las de volta a um estado de julgamento cauteloso.

O mais digno de reflexão é a confiança exagerada das pessoas quando a IA fornece respostas incorretas:

Sem IA e sem regras de recompensa ou punição, a confiança média dos participantes foi de 29,6%.

Após a introdução da IA, a confiança dos participantes subiu diretamente para 75,9%; além disso, no grupo com regras de recompensa e punição financeira, a confiança da IA também foi de 73,5%.

Para isso, a síntese no artigo é muito direta: a IA torna as pessoas mais confiantes, mas não necessariamente mais precisas.

A IA está se integrando ao cotidiano em uma velocidade sem precedentes, e uma mudança evidente é que muitas sugestões de IA agora não são solicitadas por nós, mas sim oferecidas automaticamente por ela.

O cenário mais típico é trending no热搜.

Antes, ao entrar em um tópico, você precisava percorrer sozinho os comentários, as notícias da mídia e as respostas das partes envolvidas, montando a linha do tempo enquanto acompanhava alguns desvios interessantes.

Agora é diferente: assim que você entrou, o resumo gerado por IA já está destacado no local mais visível.

Tudo foi organizado para você: o que aconteceu, o que foi dito, onde estão as controvérsias e como evoluiu, além de links para as fontes de notícias.

Realmente prático, mas também um pouco sutil...

Quanto mais claramente ele organiza as informações, mais curto se torna o processo de explorarmos nós mesmos a origem e o desenvolvimento dos fatos; parece que também foi comprimido o prazer de antes, de vasculhar por todos os lados, fazer julgamentos próprios e descobrir acidentalmente detalhes inesperados.

Ao escrever, ainda não se digitaram duas linhas de texto e as frases completadas pela IA ou as sugestões já aparecem atrás do cursor.

Então, o Estudo 4 fez um design mais realista: em vez de permitir que os participantes escolhessem se queriam perguntar ao AI, as sugestões do AI foram exibidas automaticamente ao lado das perguntas.

Esta rodada teve 853 participantes, e os resultados do experimento foram basicamente os mesmos que os anteriores.

Sem regras de recompensa ou punição financeira, a aparição automática da IA reduz a proporção de “não sei” de 35% para 1%; com regras, reduz de 39% para 7%.

A precisão também continua afetada: sem IA, a precisão era de cerca de 27%; com IA, mas sem incentivos, a precisão caiu para apenas 7%.

Com IA e incentivos adicionais, a precisão aumentou para 14%.

Isso indica que, mesmo que as pessoas não procurem ativamente a IA, apenas ao verem recomendações da IA, elas são fortemente influenciadas.

Este é um sinal que deve ser observado com atenção — a IA está silenciosamente redefinindo nossos hábitos de julgamento.

Ele já não é mais apenas uma ferramenta que responde apenas quando você abre a caixa de bate-papo ativamente, mas sim a “resposta padrão” que o sistema impõe a você por padrão.

• Pode aparecer no topo da página de pesquisa.
• Aparece no rascunho do e-mail.
• Aparece na barra lateral do documento.
• Aparece em softwares de aprendizado, sistemas de escritório e extensões de navegador.

Assim que a resposta é apresentada por padrão diante dos nossos olhos, o processo de julgamento humano já foi reescrito; mas o mais aterrador é que nos acostumamos com isso.

O artigo usou uma palavra: epistemia (inércia cognitiva)

Pode-se entender que as pessoas aceitam a credibilidade superficial da resposta da IA porque ela parece fluida, completa e bem estruturada, em vez de verificar mais a fundo.

Um modelo de linguagem grande tem uma característica fundamental: ele sempre precisa gerar algo. Diante de perguntas que não conhece, raramente para verdadeiramente.

Ele pode parecer muito real. Mas se realmente escolhermos delegar a decisão a esse sistema, podemos acabar herdando seu hábito de "não pausar".

Uma explicação apresentada no artigo é que “as respostas fluídas fornecidas pela IA reduzem o limiar para que os humanos decidam que sabem o suficiente para responder.”

Originalmente, você poderia pensar: “Eu não sei essa pergunta, não tenho certeza, deixa pra lá… Preciso entender melhor antes de responder.”

Mas depois que a IA lhe fornece uma frase que parece muito certa, a barreira psicológica se torna: "Se ela disse isso assim, então eu também posso responder."

Assim, “não sei” e “o processo de busca” foram omitidos e substituídos por uma “resposta padrão, mas incorreta”, e essa resposta incorreta conferiu a você uma confiança elevada que deveria ser obtida apenas por meio de busca e verificação repetidas.

Mesmo que haja uma multa por responder incorretamente, as pessoas apenas ficam um pouco mais cautelosas e não conseguem彻底 abandonar o hábito de confiar demais na IA, acabando sendo facilmente desviadas.

O que este estudo realmente nos lembra não é que “a IA alucina” — isso já não é novidade —, mas sim uma nova mudança digna de atenção: a IA está mudando a maneira como os humanos lidam com a incerteza.

No passado, quando enfrentavam um problema desconhecido, as pessoas tinham três opções:

1. Se souber, responda.

2. Se não souber, pesquise.

3. Se não tiver certeza, não responda e não faça julgamentos.

Mas após a adição da IA, o processo ficou mais curto.

1. IA fornece a resposta.

2. O usuário aceita a resposta.

O passo mais importante no meio, ou seja, "eu realmente sei?", foi pulado inadvertidamente.

É por isso que os autores do artigo enfatizam que seu estudo não analisa "o que a IA fez as pessoas responderem", mas sim "como a IA tornou mais fácil para as pessoas decidirem 'posso responder'".

Isso vai além de uma única resposta errada, pois corroí nossa metacognição, um "alarme interno" que monitora os limites do nosso conhecimento e é extremamente valiosa.

Quando esse alarme falha, perdemos o instinto de distinguir entre "conhecimento verdadeiro" e "suposições plausíveis".

Naquela época, talvez ainda possamos obter respostas de forma eficiente por meio da IA, mas já não conseguiremos mais determinar se essas respostas realmente nos pertencem ou se realmente merecem confiança.

Ao mesmo tempo, o que será desviado pela IA não será mais um julgamento específico, mas sim a base de nossa capacidade como pensadores independentes.

This loss is immeasurable.

Um dos autores do artigo, Valerio Capraro, declarou em uma entrevista: “Estou muito preocupado com as crianças, pois os adultos já aprenderam a pensar criticamente. Mas, para crianças que nascem com esses sistemas desde o início, o risco é que elas nem sequer aprendam habilidades críticas básicas.”

Por trás desta frase esconde-se uma preocupação mais profunda: que os adultos atuais, pelo menos, já viveram em um mundo sem IA.

Então, ter a oportunidade de aprender primeiramente algumas habilidades básicas de julgamento por meio de motores de busca, livros, aulas, discussões e tentativas e erros, antes de começar a usar IA, pode ajudar a desenvolver a sensação de “não tenho certeza”.

Mas as crianças de hoje podem crescer desde o nascimento junto com essas IA.

Eles podem perguntar ao AI a qualquer momento para fazer lições de casa, pesquisar informações, escrever artigos ou entender conceitos.

Se desde o início se acostumar a receber diretamente as respostas, em vez de primeiro formar seu próprio julgamento e depois verificar a resposta, o risco não é apenas responder incorretamente a uma pergunta, mas sim que eles nunca tenham a oportunidade de desenvolver a habilidade mais básica de pensamento crítico.

Na visão de Capraro, resolver esse problema não pode depender apenas das empresas de modelos consertarem bugs, mas também exigir uma abordagem baseada na alfabetização em IA e em políticas educacionais.

As empresas de modelos devem, naturalmente, melhorar, por exemplo, expressando melhor a incerteza, reduzindo ilusões e alertando os usuários quando as evidências forem insuficientes.

Mas ao mesmo tempo, Capraro também acredita que não se pode colocar todas as esperanças nas empresas de modelos.

Uma solução mais promissora e de longo prazo é a educação.

Especialmente a educação infantil.

Para as crianças de hoje, é muito importante e necessário praticar o processo de “Não sei, mas vou descobrir” e cultivar esse hábito.

No final do experimento, os pesquisadores também reconheceram as limitações: o experimento utilizou apenas perguntas sobre detalhes de filmes, e sua aplicabilidade a outras áreas ainda precisa ser verificada; o valor do incentivo foi pequeno, e não está claro se interesses maiores poderiam corrigir ainda mais o comportamento.

Mas os dados existentes já forneceram um sinal claro: as pessoas dizem menos "não sei", dão mais respostas, acertam menos, mas estão mais confiantes.

Este pode ser o risco mais sutil da era da IA.

A IA não só enganou você, como também tornou mais difícil perceber que na verdade você não sabe.

O julgamento final deste estudo foi contido, mas pesado: "À medida que as respostas geradas por IA se tornam onipresentes e muitas vezes não solicitadas, nossa pesquisa sugere que a capacidade humana de admitir francamente 'não sei' pode se tornar um dos primeiros sacrifícios na interação homem-máquina."

À medida que os sistemas de IA se tornam cada vez mais普及, a capacidade do julgamento humano de se manter firme pode não depender de tornar a IA mais precisa, mas sim de nossa habilidade de preservar a autoconsciência — reconhecer claramente os limites do nosso próprio conhecimento e agir com prudência com base nisso.

Isso não significa que a IA não possa ser usada; pelo contrário, a IA certamente pode ser uma ferramenta auxiliar poderosa;

Mas com a condição de que ele deve ajudar as pessoas a pensar, em vez de substituir o pensamento delas; precisamos manter nossa linha de fundo de julgamento cauteloso.

Uma maneira mais saudável de usar a IA é primeiro julgar por conta própria, aprender ativamente, e só recorrer à IA quando realmente não entender, mantendo sempre o instinto de questionamento durante o processo de busca de ajuda (incluindo questionar a IA e refletir sobre si mesmo).

Por exemplo:

Could it be wrong?

Where is the evidence?

O link de referência está em branco ou 404?

Será que eu acreditei que estava certo só porque soou muito convincente?

Para produtos de IA e seus desenvolvedores, isso também é um alerta: “a maturidade da tecnologia acabará se manifestando no respeito pelo desconhecido.”

A direção futura da evolução da IA talvez não seja apenas fazer com que a IA responda mais rápido e mais humanamente, mas também ensinar a IA a ser mais honesta ao revelar suas incertezas;

Quando as evidências forem insuficientes, quando a questão depender de detalhes visuais, informações em tempo real ou julgamento profissional, a IA deve informar ativamente o usuário de que a resposta é confiável, em vez de fingir ser onisciente.

E para pessoas comuns, como você e eu, arrastadas pela correnteza da era, a habilidade mais valiosa talvez seja apenas reaprender a dizer: “Eu não sei.”

Nesta era em que a IA sempre consegue dar uma resposta, dizer “Eu não sei.” não é uma confissão de ignorância, mas sim uma prova de que o julgamento ainda está ativo.

Link de referência:

[1]https://www.theregister.com/ai-and-ml/2026/07/19/using-ai-makes-people-less-likely-to-admit-they-dont-know-something/5274567

[2]https://arxiv.org/pdf/2607.13562

Este artigo é do número de assinantes do WeChat "Quantum Bit", autor: Wen Ting