Anthropic a déclaré que le monde devrait avoir la possibilité de ralentir ou de suspendre temporairement le développement des IA de pointe si les principaux laboratoires d'IA et les gouvernements peuvent créer un moyen crédible de vérifier que tout le monde respecte les règles.
Dans un nouveau rapport de l'Institut Anthropic, l'entreprise a déclaré qu'une pause pourrait permettre aux décideurs politiques, aux chercheurs et à la société civile plus de temps pour répondre aux risques liés aux systèmes d'IA de plus en plus performants. Mais l'entreprise a averti qu'un ralentissement n'améliorerait la sécurité que s'il s'appliquait à plusieurs laboratoires bien dotés situés à la pointe ou à proximité.
Anthropic a déclaré qu'un arrêt unilatéral par une seule entreprise serait plus facile à mettre en œuvre, mais bien moins efficace, car il pourrait simplement transférer l'avantage à des acteurs moins prudents. L'entreprise a affirmé qu'un arrêt significatif nécessiterait que les développeurs de plusieurs pays cessent leurs activités dans les mêmes conditions et vérifient que les concurrents ont également arrêté.
L'avertissement intervient alors qu'Anthropic affirme que les systèmes d'IA accélèrent déjà le développement de nouveaux modèles d'IA. À compter de mai 2026, plus de 80 % du code intégré dans la base de code d'Anthropic a été rédigé par Claude, contre un faible chiffre à un chiffre avant le lancement en version préliminaire de recherche de Claude Code en février 2025.
L'entreprise a déclaré que l'ingénieur typique d'Anthropic a fusionné huit fois plus de code par jour au deuxième trimestre 2026 qu'en 2024. Un sondage interne de mars 2026 a également révélé que le personnel de recherche utilisant Mythos Preview estimaient produire environ quatre fois plus de résultats qu'ils ne le feraient sans les modèles d'IA.
Anthropic a déclaré que ces gains indiquent un changement plus vaste dans la manière dont les systèmes d'IA de pointe sont construits. Les ingénieurs et chercheurs humains définissent toujours les objectifs, examinent les résultats et décident quels problèmes sont importants, mais Claude assume une part croissante du travail d'exécution dans le codage, les tests, le débogage et l'optimisation des expériences.
L'entreprise a présenté cette tendance comme une première étape vers l'amélioration récursive de soi, un scénario dans lequel les systèmes d'IA deviennent capables de concevoir et de développer de manière autonome leurs propres successeurs. Anthropic a déclaré qu'un tel système n'existe pas encore et n'est peut-être pas inévitable, mais a averti qu'il pourrait arriver plus tôt que la plupart des institutions ne sont prêtes à l'anticiper.
Si cela se produit, Anthropic a déclaré que le rythme du développement de l'IA pourrait devenir plus directement lié à la disponibilité et aux gains d'efficacité en matière de calcul, tandis que les humains se concentreraient sur la supervision, la validation et la vérification. Cela rendrait les systèmes utilisés pour surveiller le développement de l'IA de pointe encore plus importants, surtout si les modèles d'IA commencent à jouer un rôle plus important dans la création de futures versions d'eux-mêmes.
Anthropic a déclaré que le défi réside dans le fait que vérifier une pause dans le développement de l'IA est plus difficile que de surveiller de nombreuses autres technologies. Les entraînements peuvent être cachés, leurs entrées sont à usage général, et l'incitation à défauter discrètement serait énorme si un acteur pouvait prendre une avance tandis que les autres s'arrêtent.
L'entreprise a déclaré qu'un arrêt crédible nécessiterait des règles claires concernant ce qui le déclenche, ce qui le termine et qui décide si les conditions ont été remplies. Elle a comparé ce défi aux régimes de contrôle des armements pour d'autres technologies complexes, tout en soulignant que ces systèmes ont pris des décennies à être mis en place et que l'IA pourrait ne pas laisser aux gouvernements autant de temps.
Anthropic a déclaré qu'elle prévoit d'organiser, au cours des prochains mois, des conversations avec des décideurs politiques, des chercheurs, la société civile et d'autres entreprises d'IA pour examiner l'amélioration récursive automatique et les mécanismes possibles de coordination pour le développement des IA de pointe.
L'entreprise a déclaré qu'elle s'attendrait à ralentir ou à suspendre temporairement le développement si d'autres développeurs de pointe faisaient de même d'une manière vérifiable.