Anthropic avertit que l'IA pourrait éventuellement créer ses propres successeurs

• Anthropic affirme que Claude rédige désormais une grande partie du code utilisé pour développer ses propres systèmes d'IA, augmentant ainsi la productivité.
• L'entreprise affirme que les capacités de l'IA évoluent plus rapidement, la complexité des tâches doublant environ tous les quatre mois.
• Anthropic avertit que l'IA pourrait éventuellement aider à créer de meilleures IA, rendant la supervision et la sécurité plus complexes.

L'entreprise d'intelligence artificielle Anthropic affirme que l'IA s'améliore si rapidement qu'elle commence à aider à créer la prochaine génération de systèmes d'IA. L'entreprise avertit que cela pourrait éventuellement rendre plus difficile pour les humains de maintenir le contrôle sur le développement de l'IA.

Dans un nouveau document de recherche, Anthropic a examiné la possibilité d'une « amélioration récursive de soi ». Il s'agit d'une situation où les systèmes d'IA conçoivent, construisent et forment des systèmes d'IA plus avancés avec très peu d'intervention humaine.

L'entreprise a souligné que cela n'a pas encore eu lieu et pourrait ne jamais se produire. Toutefois, elle estime que les gouvernements, les régulateurs et les entreprises technologiques devraient commencer à se préparer dès maintenant.

« Nous n’y sommes pas encore, et l’amélioration récursive de soi n’est pas inévitable. Mais elle pourrait arriver plus tôt que ce que la plupart des institutions sont prêtes à anticiper », a déclaré Anthropic.

Anthropic affirme que son modèle d'IA Claude a bien dépassé le statut d'assistant de codage de base.

L'entreprise a décrit comment les outils d'IA ont évolué. Au début, les ingénieurs écrivaient eux-mêmes le code. Plus tard, les chatbots ont aidé à accomplir de petites tâches de programmation. Ensuite sont apparus des agents de programmation IA capables de modifier des fichiers et de gérer des projets de manière autonome.

Aujourd'hui, les agents IA peuvent écrire et exécuter du code, accomplir des tâches de manière autonome et même déléguer du travail à d'autres agents IA. Selon Anthropic, la prochaine étape consiste en des systèmes IA qui aident activement à construire et à former les futurs modèles d'IA.

L'entreprise a révélé que Claude rédige désormais la majeure partie du code utilisé pour développer les propres systèmes d'IA d'Anthropic. En conséquence, les développeurs sont beaucoup plus productifs. Anthropic affirme que l'ingénieur moyen produit aujourd'hui environ huit fois plus de code par jour qu'en 2024.

Connexe : Le président d'Anthropic déclare que l'augmentation des coûts d'entraînement de l'IA pousse les plans de CTO

Anthropic affirme que les tests publics et ses recherches internes montrent que les capacités de l'IA s'améliorent rapidement. L'entreprise affirme que la longueur et la complexité des tâches que l'IA peut accomplir de manière fiable doublent environ tous les quatre mois. Auparavant, ce taux de croissance était d'environ tous les sept mois.

Anthropic a cité les progrès de ses modèles Claude comme exemple. En mars 2024, Claude Opus 3 pouvait gérer des tâches d'ingénierie logicielle qui prendraient à un humain environ quatre minutes. Un an plus tard, Claude Sonnet 3.7 serait capable de terminer des tâches nécessitant environ 90 minutes de travail humain.

D'ici 2026, Claude Opus 4.6 serait capable de gérer des tâches équivalentes à environ 12 heures de travail humain.

Les capacités de recherche de Claude ont également été améliorées. Dans un projet interne, les agents alimentés par Claude ont résolu presque l'intégralité d'un important défi de recherche.

Anthropic a également indiqué que le taux de réussite de Claude sur des tâches de programmation complexes a atteint 76 % en mai 2026, une amélioration significative par rapport à six mois plus tôt.

Anthropic a détaillé trois voies possibles pour le développement de l'IA. La première est un ralentissement, où les progrès deviennent plus difficiles à accomplir avec le temps.

Le second est un avenir où l'IA continue d'augmenter la productivité tandis que les humains restent en contrôle des décisions importantes et de la supervision.

Le troisième et le plus dramatique scénario est celui où les systèmes d'IA commencent à créer leurs propres successeurs, entraînant un progrès beaucoup plus rapide.

Sur la base des preuves actuelles, Anthropic estime que le deuxième scénario est le plus probable. Toutefois, l'entreprise indique qu'il subsiste encore une incertitude quant à la rapidité avec laquelle les capacités de l'IA pourraient progresser.

Anthropic affirme que les humains conservent des atouts importants, notamment le jugement, la pensée stratégique et la capacité à déterminer quels problèmes méritent d'être résolus. Toutefois, l'entreprise estime que le principal défi pourrait bientôt être la supervision humaine plutôt que le développement même de l'IA.

À mesure que les systèmes d'IA deviennent plus performants, il pourra devenir de plus en plus difficile pour les personnes de revoir, vérifier et surveiller en toute sécurité leur travail.

À cause de cela, Anthropic suggère que les gouvernements et les principales entreprises d'IA devraient avoir des plans en place pour ralentir temporairement le développement des systèmes d'IA les plus avancés si les progrès commencent à avancer plus vite que la société ne peut les gérer en toute sécurité.

L'entreprise a souligné qu'un ralentissement significatif nécessiterait probablement une coopération internationale. Si une seule entreprise suspend le développement, ses concurrents pourraient continuer à progresser, réduisant ainsi l'efficacité de la mesure de sécurité.

Pour l'instant, Anthropic affirme que l'amélioration récursive de soi reste une possibilité, pas une certitude. Mais au fur et à mesure que Claude joue un rôle croissant dans la construction des futurs systèmes d'IA, l'entreprise estime que les discussions sur la gouvernance, la supervision et la sécurité de l'IA devraient commencer plus tôt que tard.

Associé : Is AI Killing Bitcoin? Why Capital Is Rotating to AI Tech Now