As pessoas sabem que a IA comete erros, mas a supervisão talvez não seja uma boa solução.Autor e fonte do artigo: AIBase
Um conjunto de estudos recentemente revisado pelo Washington Post trouxe à luz a erosão da memória causada pela IA. A professora do Media Lab do MIT, Pattie Maes, e sua equipe mostraram primeiro a 200 participantes 24 fotos cotidianas — casamentos, cenas de ruas, corridas.
Após uma pausa, um grupo revisou a imagem original, enquanto outro grupo viu uma versão alterada por IA: expressões faciais modificadas, soldados inseridos artificialmente ou cenas de mudanças climáticas adicionadas do nada. O teste de memória subsequente deixou Mes surpresa: aqueles que viram as imagens manipuladas apresentaram uma probabilidade muito maior de desenvolver memórias falsas, e, mais assustador ainda, tinham maior confiança nessas memórias incorretas. “Isso é extremamente perigoso”, ela concluiu.
Esse fenômeno não é isolado. Experimentos cognitivos relacionados a eventos políticos, crimes e até novos filmes陆续 mostram que imagens e diálogos gerados por IA podem fixar detalhes que nunca ocorreram na mente das pessoas, fazendo-as afirmar com certeza que "lembram" de cenas fictícias — algumas pessoas "lembram" de ter visto uma regravação de O Matrix estrelada por Will Smith, enquanto outras "lembram" de um escândalo político que nunca aconteceu. Após assistir a um vídeo de crime, os participantes interrogados por um chatbot de IA apresentaram três vezes mais memórias falsas do que o grupo de controle.
As capacidades foram terceirizadas, memória e inteligência reduzidas simultaneamente
Mais sutil do que "esquecer errado" está "recusar-se a lembrar". Em outro experimento da Meis, ainda em revisão por pares, 54 participantes escreveram redações no estilo SAT: um grupo escreveu totalmente à mão, outro usou o Google e outro usou o ChatGPT, enquanto eletrodos no couro cabeludo registravam simultaneamente a atividade cerebral. Os resultados foram marcantes — os escritores independentes apresentaram as conexões cerebrais mais fortes e mais amplas entre as diversas regiões, enquanto os que usaram o ChatGPT tiveram as mais fracas; quando pedidos para recontar seus próprios textos posteriormente, aqueles que dependeram da IA mal conseguiram lembrar o que haviam escrito. A memória exige consolidação por meio de atenção, esforço subjetivo e extração de informações — e a IA generativa simplesmente elimina essa carga cognitiva.
Na e da Universidade da Pensilvânia e Xiao, do King's College de Londres, chamam essa tendência de "degradação de habilidades": os humanos gradualmente deixam de exercitar capacidades que as máquinas podem substituir, e "pensar torna-se uma opção". Evidências já surgiram em profissões especializadas — um estudo de 2025 publicado na revista The Lancet observou cerca de 1.500 colonoscopias realizadas por 19 médicos experientes e constatou que, após o uso regular de IA, sua capacidade de detectar independentemente lesões pré-cancerosas caiu cerca de 20%. A preocupação com crianças é ainda mais fundamental: suas capacidades cognitivas fundamentais ainda não estão plenamente desenvolvidas, mas já podem estar externalizando o esforço mental, perdendo desde o início a oportunidade de exercitar o pensamento crítico.
Na conferência anual de ética da IA em Malmö, Suécia, acadêmicos repetidamente questionaram: quais são as consequências quando a IA intervém na memória? A pesquisadora Sim, da Universidade de Georgetown, realizou um experimento com animações de colisão envolvendo 331 pessoas: um grupo leu resumos da IA precisos, enquanto outro leu resumos com identificadores intencionalmente incorretos — as taxas de acerto foram de aproximadamente 84% e 45%, respectivamente. Mesmo com aviso prévio de que "isso foi escrito por IA", a desinformação ainda assim teve efeito. Ela destacou um paradoxo cruel: esperamos que "revisão humana" corrija erros da máquina, mas a IA já reescreveu a memória que as pessoas usam para julgar — e essa linha de defesa pode falhar desde a raiz. "Todos sabem que a IA comete erros, mas a supervisão talvez não seja uma boa solução." Enquanto empresas competem para integrar IA nos gravadores de polícia e nos sistemas de organização de prontuários hospitalares, esse alerta chega na hora certa.