Un chercheur britannique de 27 ans ayant travaillé sur le pré-entraînement chez Anthropic a démissionné publiquement, avertissant que la course à la création d'une IA s'améliorant elle-même de manière récursive pourrait entraîner l'extinction de l'humanité avant la fin de la décennie.
Jacob Coxon a quitté l'une des entreprises les plus influentes en matière de sécurité de l'IA vers le 8-9 septembre, et son message de départ n'était pas un doux post LinkedIn sur des « nouveaux chapitres passionnants ». Il a émis un avertissement selon lequel les personnes qui construisent ces systèmes croient sincèrement qu'ils pourraient provoquer des conséquences catastrophiques, et que le calendrier pour que les choses échappent au contrôle pourrait être aussi proche que l'année prochaine.
L'alarme interne
Ce qui rend la démission de Coxon particulièrement difficile à ignorer, c’est ce qui s’est produit ensuite. Ses propres collègues d’Anthropic ont commencé à publiquement partager son avis.
Evan Hubinger, qui détient le titre de chef de la science de l'alignement chez Anthropic, a appuyé les déclarations de Coxon sur les réseaux sociaux. Son estimation personnelle : une probabilité supérieure à 10 % que l'IA entraîne des pertes humaines massives au cours de la prochaine décennie.
Hubinger est allé plus loin, en reconnaissant qu'Anthropic ne dispose pas de plan clair pour assurer l'alignement avec des systèmes superintelligents.
Samuel Marks, un autre chercheur d'Anthropic, a exprimé des préoccupations similaires, suggérant que les employés seniors au sein de l'entreprise sont particulièrement préoccupés par les risques d'extinction.
Coxon a critiqué spécifiquement l'utilisation de termes comme « crunchtime » et « endgame » dans les cercles du développement de l'IA. Ces mots présentent la poursuite de la superintelligence comme quelque chose d'urgent et d'inévitable, une compétition à gagner plutôt qu'un risque à gérer. Ce cadre, a-t-il argué, fait partie du problème.
Un motif de sorties
Coxon n'est pas le premier chercheur axé sur la sécurité à quitter Anthropic en exprimant des préoccupations concernant la direction de l'entreprise. Mrinank Sharma, qui dirigeait l'équipe de recherche sur les mesures de sécurité de l'entreprise, a démissionné en février 2026. Sharma a souligné les dangers croissants posés par l'IA et les armes biologiques, citant des pressions externes qui, selon lui, compromettaient la conduite éthique de l'entreprise.
L'ironie est épaisse. Anthropic a été fondée par d'anciens employés d'OpenAI, dont le PDG Dario Amodei, précisément parce qu'ils estimaient qu'OpenAI ne prenait pas la sécurité suffisamment au sérieux. Elle devait être l'alternative prioritaire en matière de sécurité. Maintenant, ses propres chercheurs en sécurité la quittent parce qu'ils pensent qu'Anthropic ne prend pas la sécurité suffisamment au sérieux.
Concurrence comme accélérateur
L'avertissement de Coxon a spécifiquement pointé la concurrence internationale comme facteur aggravant. La pression pour suivre le rythme des concurrents, en particulier ceux des laboratoires chinois d'IA, crée un environnement où ralentir pour garantir la sécurité semble être un désarmement unilatéral.