Erro de identificação por IA leva a 160 dias de prisão injusta nos EUA

Se a IA de repente disser que você é culpado e todos acreditarem cegamente em seu julgamento, como você se provaria inocente?

Isso soa como uma cena do filme "Minority Report", em que crimes são previstos e depois se é incriminado, mas, de forma abstrata, uma versão ainda mais amadora já está sendo encenada na realidade:

A IA errou o criminoso, fazendo com que uma mulher inocente fosse presa por seis meses, quase perdendo sua vida.

Angela Lipps, da Tennessee, nos Estados Unidos, é essa infeliz mulher. Em julho de 2025, uma equipe de policiais totalmente armados invadiu repentinamente sua vida tranquila, apontou armas para ela e informou que estava presa.

Na época, ela ficou um pouco atordoada, pois simplesmente não sabia o que havia feito de errado. A polícia disse que ela era suspeita de participar de um caso de fraude bancária em Dakota do Norte, e pelo jeito, parecia haver evidências concretas, além de um alerta de captura de cinco estrelas ter sido emitido; mas, ao ouvir esse motivo, ela ficou paralisada no lugar:

Mas eu nunca fui a esse estado na minha vida.

Do ponto de vista geográfico, o Tennessee, nos Estados Unidos, e o Dakota do Norte estão realmente distantes, e foi a IA que ligou ela ao suspeito.

Quando a polícia a prendeu, automaticamente ignorou suas alegações; os detalhes específicos do caso só foram conhecidos após ela entrar na prisão. A polícia da cidade de Fargo, Dakota do Norte, estava investigando um caso de fraude no qual o suspeito usou uma identidade militar falsa para enganar o banco e roubar dezenas de milhares de dólares. O método de investigação da polícia consistia em primeiro analisar as câmeras de segurança, depois consultar a IA e, por fim, efetuar a prisão.

Você pode achar que foi usado IA para "refinar" Sherlock Holmes e que ele se transformou em um detetive divino resolvendo casos por meio de raciocínio lógico rigoroso, mas na realidade não é tão "complexo". A polícia usou um sistema de IA para reconhecimento facial em capturas de tela de câmeras de segurança e, em seguida, filtrou suspeitos em um banco de imagens.

O resultado foi que a IA errou gravemente, associando erroneamente a foto de Angela Lipps. Em seguida, essa informação foi encaminhada para a delegacia que estava investigando o caso, e os funcionários cometeram um erro ainda maior: após verificar manualmente sua carteira de motorista e redes sociais, concluíram que as características faciais, o corpo e o penteado eram semelhantes e, portanto, a identificaram como suspeita.

Imagem proveniente do GoFundMe

A irmã mais velha ficou completamente devastada após ouvir e não investigou mais nenhuma pista — e se fosse uma coincidência? Mas o pior ainda estava por vir: após uma sequência de ações, ela não teve chance de provar sua inocência.

De acordo com os procedimentos locais, ela não foi diretamente levada para Dakota do Norte para investigação adicional, mas sim mantida em uma prisão local no Tennessee. Por ser considerada uma "fugitiva interestadual", ela não teve direito a fiança nem à oportunidade de ser interrogada pela polícia, e permaneceu presa por 108 dias, da julho até o final de outubro — é difícil imaginar o quão desesperada ela deve ter se sentido durante esse período.

Angela Lipps aguentou até 30 de outubro, quando finalmente foi retirada da prisão pela polícia para ser transferida para a Dakota do Norte. Na época, ela enfrentava múltiplas acusações e, durante a viagem, precisava usar algemas e uma corrente na cintura, o que, para ela, era como uma exibição pública ao atravessar o aeroporto.

E na verdade, era a primeira vez na vida dela que viajava de avião.

O que ela não esperava era que, ao chegar a Dakota do Norte, ainda teria que esperar. Só em dezembro ela teve a oportunidade oficial de explicar o caso; seu advogado diretamente acessou seus extratos bancários para comparar os horários, revelando que, no momento do crime, ela estava comprando pizza no Tennessee, a 1.900 quilômetros de distância, o que significava que, a menos que ela fosse o Flash, não poderia ter cometido o crime atravessando o tempo e o espaço.

Em apenas 5 minutos, o advogado ajudou ela a esclarecer esse assunto.

Em 24 de dezembro, suas acusações finalmente foram retiradas, mas ela não conseguia sorrir, pois a linha de corte já havia chegado ao tornozelo.

Angela Lipps passou todos os seus aniversários de 50 anos na prisão. Durante o tempo encarcerada, não lhe foi permitido usar prótese dentária, ela comia apenas alimentos ultraprocessados e enfrentava grande pressão psicológica, o que levou a um aumento significativo de peso. Antes de entrar na prisão, ela vestia roupas de verão; ao sair, já era inverno, e não tinha nem um casaco grosso, tendo dificuldade até para se aquecer, muito menos para voltar para casa. Na época, a polícia não lhe forneceu nenhum dinheiro para viagem. Após a libertação, ela ficou presa no Dakota do Norte — e presa no dia em que foi injustamente acusada pela IA.

Mas, felizmente, houve pessoas bondosas que a ajudaram.

Seu advogado ajudou-a a reservar um hotel para ficar temporariamente e conseguiu algo para comer para superar os momentos mais difíceis; uma organização sem fins lucrativos local a socorreu e a levou de volta para casa, no Tennessee.

Mas voltar para casa e recomeçar a vida também é uma tarefa infernal. Durante esse tempo na prisão, sua situação econômica explodiu: ela perdeu o apartamento alugado, seu cachorro sumiu, e até seu carro e tudo o que estava dentro dele desapareceram. Seus pertences pessoais haviam sido armazenados temporariamente em um depósito, mas, como ela não conseguiu pagar o aluguel, todos os seus bens foram removidos. Até seus relacionamentos pessoais ficaram em risco, pois os vizinhos a viram ser levada e “desaparecer” por seis meses, acreditando que ela realmente havia cometido algum crime.

Ao mesmo tempo, essa experiência absurda dela se espalhou rapidamente pela internet e despertou uma enxurrada de críticas. Muitas pessoas expressaram incredulidade, dizendo que, nos Estados Unidos, algumas pessoas podem fazer “compras gratuitas”, mas se você tocar no banco de um capitalista, é preso em segundos, mesmo que não tenha sido você.

Como o caso se tornou muito grande, sua situação desesperadora novamente encontrou uma oportunidade, recebendo mais ajuda; atualmente, ela já arrecadou US$ 80.000 em doações por crowdfunding, suficientes para recomeçar sua vida e negócios.

Mas agora, a maior expectativa dos internautas é que ela contrate um time de advogados e os processe por completo, talvez ganhando o processo e recebendo outra indenização.

Como isso não foi um erro acidental da polícia, já havia ocorrido uma série de casos injustos anteriormente, e algumas pessoas tiveram experiências ainda piores que a dela.

A experiência de Angela Lipps já ocorreu mais de dez vezes em diferentes regiões, e também aconteceu em outros países.

Por exemplo, Robert Williams foi um dos primeiros vítimas desse tipo de evento; em 2020, a polícia o prendeu na frente de sua esposa e filha, mantendo-o detido por 30 horas, embora ele fosse 20 centímetros mais alto do que o verdadeiro culpado.

Outro Chris Gatlin também é um dos mais azarados: a IA o identificou como suspeito potencial no caso de agressão no metrô com base em imagens vagas de câmeras de segurança, e ele foi mantido preso por 17 meses seguidos, tornando-se a pessoa inocente com o maior tempo de detenção até agora. O absurdo é que, só no final, os investigadores descobriram que havia uma gravação de câmera corporal que poderia servir como evidência crucial — mas o suspeito nela não tinha absolutamente nada a ver com ele.

Em 2023, Porcha Woodruff passou pela mesma situação; a polícia a acusou de suspeita de roubo de veículo. Ao ouvir isso, ela riu de forma irritada, pensando que a polícia estava brincando, pois estava grávida de oito meses e não parecia ter condições físicas para cometer o crime. No entanto, ela foi levada e mantida detida por cerca de dez horas e, posteriormente, perdeu o processo judicial.

Este ano, um jovem britânico chamado Alvi Choudhury também foi preso por situação semelhante, acusado de “arrombamento”, mas as evidências indicam que o crime foi cometido “à distância”, um cenário também registrado em filmes. A foto identificada pela IA era dele de 2021, quando foi detido; quando a polícia viu o homem na vida real, riu, pois ele parecia pelo menos 10 anos mais velho do que o suspeito.

Imagem de The Mind Benders

Em 2022, o empresário indiano Praveen Kumar foi detido enquanto viajava para a Suíça, durante uma conexão em Abu Dhabi, onde foi identificado como um criminoso procurado por meio de IA. Ele foi submetido a longos interrogatórios locais e, após confirmarem que não era o suspeito, foi deportado de volta à Índia, onde foi detido mais duas vezes consecutivas no aeroporto indiano.

Nesse tipo de evento, o mais absurdo foi certamente o caso do cientista russo Alexander Tsvetkov, que foi detido por 10 meses porque a IA disse que ele parecia um assassino.

Este cientista pode ser dito ter sofrido uma dupla calúnia por parte da IA e de seres humanos. Em fevereiro de 2023, ao retornar à Rússia após uma expedição científica, foi preso logo ao desembarcar. A razão foi que a IA indicou uma similaridade de 55% entre sua imagem e a de um suspeito de um caso de assassinatos em série ocorrido há mais de vinte anos; além disso, havia um testemunha colaboradora nesse caso que, para obter redução de pena, forneceu depoimento falso acusando-o. Pior ainda, a polícia não realizou nenhuma investigação detalhada e simplesmente o prendeu.

Após ser preso, ele inicialmente acreditou que se tratava de um mal-entendido, mas a investigação demorou a ser concluída. Sob grande pressão psicológica e problemas de saúde, ele acabou sendo forçado a confessar, mas depois retratou sua confissão. Felizmente, sua esposa e colegas do instituto sempre lutaram por ele, reunindo inúmeros documentos que provavam que, no ano do crime, ele estava em uma expedição fora da cidade. Com a cobertura da mídia, o caso passou a ser amplamente discutido pelo público, e só em dezembro houve uma mudança de rumo; as acusações foram oficialmente retiradas em fevereiro de 2024.

E casos desse tipo estão ocorrendo com cada vez mais frequência à medida que a IA evolui, parecendo mais como se a IA estivesse “comandando”, enquanto algumas pessoas se tornam máquinas executantes.

A sensação abstrata de "troca de papéis" ocorre porque tanto a IA quanto os humanos podem falhar; mesmo a IA mais poderosa comete erros, e os humanos frequentemente "pregam peças".

Tomemos o sistema Clearview AI dos Estados Unidos: foi ele que colocou a mulher no início do artigo na prisão, mas ele não é um software amador. O Clearview AI afirma possuir o maior banco de imagens do mundo, coletando bilhões de imagens de forma agressiva apesar das multas em diversos países; mais de 3.000 agências de aplicação da lei nos Estados Unidos o utilizam, e no ano passado assinou um contrato de 9,2 milhões de dólares com o ICE.

Mas, em termos simples, a Clearview AI é uma espécie de “motor de busca de rostos”: você faz o upload de uma imagem, ela busca correspondências em seu banco de dados e retorna uma série de imagens semelhantes — cabendo a você decidir se é realmente a pessoa que está procurando.

Embora o avanço da IA nos últimos anos tenha sido rápido, a "precisão" ainda é controversa, pois os dados utilizados nos testes experimentais sempre apresentam diversas diferenças em relação às situações reais de busca por imagens.

Por exemplo, na maioria das vezes, as imagens de vigilância encontradas pela polícia têm qualidade semelhante às tiradas por um telefone fixo, além de fatores como iluminação estranha, ângulos difíceis e obstruções no rosto, o que torna o reconhecimento realmente difícil; as imagens no banco de dados podem ser antigas, e a correspondência pode ser apenas uma coincidência de semelhança física entre duas pessoas.

E quando esses erros são aplicados a pessoas reais, naturalmente elas sofrem.

É um corvo ou um gato?

Teoricamente, se a IA apenas ocasionalmente apresentar falhas, ainda há esperança, pois esses são apenas “indícios”, e as “conclusões” finais ainda precisam ser revisadas por humanos. Mas, muitas vezes, os humanos são ainda mais “absurdos” do que a IA.

Na verdade, há alguns anos, já havia críticas de que a polícia dos EUA estava sendo guiada pela IA, caindo na “viés de automação”, ou seja, confiando excessivamente nos resultados fornecidos pela IA. Se a IA dissesse que essas duas pessoas correspondiam, os humanos acreditavam; se a altura não batesse, não era problema meu; mesmo com um álibi, eu só tenho a função de prender; qualquer outra evidência pode falar com a prisão. Ao pular etapas básicas de investigação, também se pula a vida de alguém.

Na verdade, os seres humanos conhecem bem as falhas da IA; após pagar uma quantia significativa em indenizações, muitas regiões nos Estados Unidos estabeleceram “linhas de defesa”, como exigir, além das pistas da IA, evidências independentes na resolução de crimes, e algumas áreas até proibiram o uso de tecnologias de IA para resolução de crimes.

Mas essas restrições não conseguem resistir à extrema utilidade da IA. Embora haja uma probabilidade de falha, claramente os sucessos são mais frequentes. Às vezes, as pistas que a polícia dedica esforços imensos para encontrar são apenas fotos de câmeras de segurança de nível “trava de porta”, e há grande probabilidade de tentarem usar a IA por sorte. Já em 2023, relatos indicaram que a polícia dos EUA realizou mais de um milhão de buscas com o Clearview AI, e mesmo depois que seu uso foi oficialmente proibido, continuaram a usá-lo secretamente — afinal, se usaram, podem dizer que não usaram; se um software for proibido, simplesmente trocam por outro; se for bloqueado localmente, pedem a outra instituição para usá-lo por eles — simplesmente ficaram viciados.

Então, assim que a IA fornece uma pista infundada e, em seguida, o ser humano preguiçosamente pula a investigação, a combinação de ambos gera um erro judicial.

Nos últimos dois anos, o sistema Smart Sampa, no Brasil, também tem enfrentado problemas semelhantes. Em 2024, São Paulo, no Brasil, lançou o maior sistema policial de reconhecimento facial por IA da América Latina, que supostamente está conectado a 40 mil câmeras.

A boa notícia é que o impacto foi realmente significativo: nos últimos anos, cerca de quatro mil criminosos foram presos em flagrante e mais de três mil fugitivos foram capturados; os roubos diminuíram cerca de 15% em 2025, tornando-se uma verdadeira “linha de produção de captura de ladrões”.

A má notícia é que pelo menos 59 pessoas foram confundidas.

Entre eles, há casos abstratos, como um paciente psiquiátrico que foi levado como um criminoso do hospital e, posteriormente, liberado ao descobrirem que seu mandado de prisão havia expirado. Outro homem foi preso quatro vezes em sete meses, pois a IA o confundiu com um assassino foragido. Cada vez, era levado à delegacia e imediatamente liberado; alguns dias depois, acontecia novamente, e ele já estava completamente aterrorizado.

Quando antes discutíamos quais trabalhos não poderiam ser substituídos pela IA, dizíamos que a IA não poderia substituir alguém na prisão, mas nunca havíamos pensado no outro lado dessa questão: agora ela pode fazer as pessoas “ficarem na prisão”.

Essa frase antes era uma piada, mas agora já quase não é mais notícia. Na verdade, não é só o reconhecimento facial; a IA também às vezes consegue fazer coisas impressionantes no reconhecimento de objetos.

No ano passado, um sistema de segurança baseado em IA em uma escola secundária nos EUA identificou erroneamente o pacote de batatas fritas que um jovem segurava como uma “arma potencial”, acionando imediatamente o alarme. Oito viaturas policiais chegaram e imediatamente o controlaram; só depois de revistá-lo encontraram o saco de lanche no lixo, criando uma situação extremamente embaraçosa, e o jovem chegou a acreditar que não sobreviveria.

Não diga, realmente não diga

Quem poderia imaginar que quanto mais forte a IA, maiores são os problemas que algumas pessoas causam com ela? Antes, a IA era lenta e errava na identificação de imagens, virando piada na internet por muito tempo. Agora, com a IA mais poderosa, errar ao identificar uma pessoa pode levar alguém à prisão por seis meses. No futuro, por favor, não criem coisas abstratas como julgamentos por IA, advogados de IA ou tribunais de energia renovável. No fundo, a IA é apenas uma ferramenta; o essencial é a capacidade e a intenção do usuário. Ou seja, quanto mais forte a IA, mais as pessoas não podem se tornar preguiçosas.

Em resumo, no fundo, comecei a sentir saudade daquele AI tolo.

Este artigo é do canal do WeChat "CoolPlay Lab", autor: CoolPlay Lab