Un investigador británico de 27 años que trabajó en el preentrenamiento en Anthropic ha renunciado públicamente, advirtiendo que la carrera por construir IA que se mejore a sí misma de forma recursiva podría llevar a la extinción humana antes de que termine la década.
Jacob Coxon dejó una de las empresas de seguridad de IA más prominentes del mundo alrededor del 8-9 de septiembre, y su mensaje de despedida no fue una publicación educada en LinkedIn sobre “nuevos capítulos emocionantes”. Fue una advertencia de que las personas que construyen estos sistemas creen sinceramente que podrían producir resultados catastróficos, y que el plazo para que las cosas se salgan de control podría ser tan pronto como el próximo año.
La alarma interna
Lo que hace la renuncia de Coxon particularmente difícil de descartar es lo que sucedió a continuación. Sus propios colegas en Anthropic comenzaron a estar públicamente de acuerdo con él.
Evan Hubinger, quien tiene el título de Líder de Ciencia de Alineamiento en Anthropic, respaldó las afirmaciones de Coxon en redes sociales. Su estimación personal: una probabilidad mayor al 10% de que la IA cause mortandad masiva humana en la próxima década.
Hubinger fue más allá, reconociendo que Anthropic carece de un plan claro para garantizar la alineación con sistemas superinteligentes.
Samuel Marks, otro investigador de Anthropic, expresó preocupaciones similares, sugiriendo que los empleados senior dentro de la empresa están particularmente preocupados por los riesgos de extinción.
Coxon criticó específicamente el uso de términos como “crunchtime” y “endgame” dentro de los círculos de desarrollo de IA. Estas palabras presentan la búsqueda de la superinteligencia como algo urgente e inevitable, una competencia que se debe ganar en lugar de un riesgo que se debe gestionar. Esa formulación, argumentó, es parte del problema.
Un patrón de salidas
Coxon no es el primer investigador enfocado en la seguridad que abandona Anthropic por preocupaciones sobre la dirección de la empresa. Mrinank Sharma, quien lideraba el equipo de Investigación de Salvaguardias de la empresa, renunció en febrero de 2026. Sharma señaló los peligros crecientes planteados por la IA y las armas biológicas, citando presiones externas que, según él, estaban comprometiendo la conducta ética de la empresa.
La ironía es intensa. Anthropic fue fundada por exempleados de OpenAI, incluido el CEO Dario Amodei, específicamente porque sentían que OpenAI no tomaba la seguridad lo suficientemente en serio. Se suponía que sería la alternativa priorizando la seguridad. Ahora, sus propios investigadores de seguridad están dejando la empresa porque no creen que Anthropic esté tomando la seguridad lo suficientemente en serio.
Competencia como acelerador
La advertencia de Coxon destacó específicamente la competencia internacional como un factor que empeora las cosas. La presión por mantener el ritmo con los rivales, especialmente los laboratorios chinos de IA, crea un entorno en el que ralentizar para garantizar la seguridad parece una desarme unilateral.