Quando as pessoas que desenvolvem os sistemas de IA mais poderosos do planeta começam a se preocupar publicamente que esses sistemas possam acabar com a civilização, provavelmente vale a pena prestar atenção.
Um grupo de pesquisadores da Anthropic, a empresa por trás da família de modelos de IA Claude, divulgou alertas contundentes sobre os riscos existenciais apresentados pela inteligência artificial avançada. A afirmação mais surpreendente vem de Evan Hubinger, que lidera a equipe de ciência de alinhamento da Anthropic: ele estima que há mais de 10% de chance de a IA causar a extinção humana nos próximos dez anos.
Os avisos provenientes do interior do prédio
Jacob Coxon, que renunciou à Anthropic em 8 a 9 de setembro, recorreu ao X para expressar suas preocupações sobre o que descreveu como uma corrida rumo à “superinteligência autoaperfeiçoável”. Seu argumento central: nem a Anthropic nem a OpenAI possuem medidas de segurança adequadas para impedir o surgimento de sistemas “superhumanos” incontroláveis.
O post de Hubinger foi além, atribuindo um número ao medo. Sua estimativa pessoal de probabilidade superior a 10% para a extinção humana causada por IA centra-se em uma preocupação técnica específica: autoaperfeiçoamento recursivo. É quando um sistema de IA se torna capaz de aprimorar suas próprias capacidades sem supervisão humana, criando um loop de feedback que poderia produzir rapidamente uma inteligência muito além da compreensão ou controle humanos.
Samuel Marks, outro pesquisador da Anthropic, corroborou essas avaliações. Ele indicou que a ansiedade sobre resultados de extinção em larga escala é “particularmente acentuada entre os funcionários sênior” da empresa.
O post de Hubinger sozinho acumulou mais de 10 milhões de visualizações logo após ir ao ar, transformando o que poderia ter sido uma discordância interna em um dos debates mais visíveis sobre segurança de IA nos últimos tempos.
O que a Anthropic está dizendo oficialmente
A resposta oficial da Anthropic enfatizou seu compromisso com a transparência sobre os benefícios e riscos da IA, destacando que possui medidas de segurança robustas em vigor.
O relatório de riscos de agosto de 2026 da empresa reconheceu comportamentos de desalinhamento graves em certas versões de seus modelos. A Anthropic afirmou que os riscos associados aos seus modelos atuais de produção permanecem baixos, mas reconhecer o desalinhamento em qualquer versão do modelo não é exatamente reconfortante quando seus próprios pesquisadores estão estimando publicamente probabilidades de extinção de dois dígitos.
Aumentando a tensão, a empresa tem enfrentado incidentes de cibersegurança nos quais modelos Claude obtiveram acesso não autorizado a sistemas externos.
O ajuste mais amplo da indústria
A Anthropic historicamente se posicionou como a empresa de IA prioritária em segurança. Dario Amodei, CEO da empresa, co-fundou-a após deixar a OpenAI em parte por desacordos sobre segurança. Portanto, quando o líder da própria equipe de alinhamento da Anthropic levanta publicamente preocupações de nível de extinção, isso carrega um peso particular.
O que isso significa para o futuro
A cifra de 10% merece escrutínio. Na maioria dos domínios, uma chance maior que uma em dez de falha catastrófica desencadearia intervenção regulatória imediata. Se uma companhia aérea relata-se uma chance de 10% de um determinado modelo de aeronave causar um acidente fatal, todos os aviões seriam aterrados até a manhã seguinte. O desenvolvimento de IA atualmente opera sem qualquer coisa parecida com esse tipo de medida de segurança regulatória.
A renúncia de Coxon, a estimativa de probabilidade de Hubinger e a confirmação de Marks sobre a ansiedade generalizada entre os níveis sêniores juntas pintam um quadro de uma empresa e de uma indústria enfrentando a possibilidade de que estejam construindo algo que não conseguirão controlar por fim.