Um pesquisador britânico de 27 anos que trabalhou em pré-treinamento na Anthropic renunciou publicamente, alertando que a corrida para construir IA com autoaprimoramento recursivo pode levar à extinção humana antes do fim da década.
Jacob Coxon deixou uma das empresas de segurança em IA mais proeminentes do mundo por volta de 8 a 9 de setembro, e sua mensagem de despedida não foi um post educado no LinkedIn sobre “novos capítulos emocionantes”. Foi um aviso de que as pessoas que constroem esses sistemas acreditam sinceramente que poderão produzir resultados catastróficos, e que o prazo para as coisas saírem do controle pode ser já no próximo ano.
O alarme interno
O que torna a renúncia de Coxon particularmente difícil de ignorar é o que aconteceu a seguir. Seus próprios colegas da Anthropic começaram a concordar publicamente com ele.
Evan Hubinger, que detém o título de Líder de Ciência de Alinhamento na Anthropic, corroborou as afirmações de Coxon nas redes sociais. Sua estimativa pessoal: mais de 10% de chance de a IA levar a mortes humanas em grande escala nos próximos dez anos.
Hubinger foi mais longe, reconhecendo que a Anthropic não possui um plano claro para garantir o alinhamento com sistemas superinteligentes.
Samuel Marks, outro pesquisador da Anthropic, expressou preocupações semelhantes, sugerindo que funcionários sênior dentro da empresa estão particularmente preocupados com riscos de extinção.
Coxon criticou especificamente o uso de termos como “crunchtime” e “endgame” dentro dos círculos de desenvolvimento de IA. Essas palavras apresentam a busca pela superinteligência como algo urgente e inevitável, uma competição a ser vencida em vez de um risco a ser gerenciado. Essa abordagem, ele argumentou, faz parte do problema.
Um padrão de saídas
Coxon não é o primeiro pesquisador focado em segurança a deixar a Anthropic com preocupações sobre a direção da empresa. Mrinank Sharma, que liderava a equipe de Pesquisa de Salvaguardas da empresa, renunciou em fevereiro de 2026. Sharma apontou para os perigos crescentes apresentados por IA e bioprodutos, citando pressões externas que, segundo ele, estavam comprometendo a conduta ética da empresa.
A ironia é pesada. A Anthropic foi fundada por ex-funcionários da OpenAI, incluindo o CEO Dario Amodei, especificamente porque sentiam que a OpenAI não estava levando a segurança a sério o suficiente. Ela foi criada como a alternativa priorizando a segurança. Agora, seus próprios pesquisadores de segurança estão saindo porque não acham que a Anthropic está levando a segurança a sério o suficiente.
Concorrência como acelerador
O aviso de Coxon destacou especificamente a concorrência internacional como um fator que piora as coisas. A pressão para acompanhar os rivais, especialmente os laboratórios chineses de IA, cria um ambiente no qual retardar o ritmo para garantir a segurança parece uma desarmamento unilateral.