Le scientifique en chef d'OpenAI met en garde contre une progression rapide de l'IA vers l'amélioration récursive de soi

Selon Mars Finance, le scientifique en chef d'OpenAI, Jakub Pachocki, a publié le 6 septembre 2026 un article intitulé « An Alien Mind ». L'article revient sur les résultats du projet de recherche RLSlow apparu au milieu de l'année 2023, qui a pour la première fois démontré la possibilité d'entraîner des modèles d'inférence à grande échelle, et affirme que trois ans plus tard, les modèles de langage d'inférence sont devenus une composante essentielle de la croissance économique rapide, commençant à repousser les frontières scientifiques, à opérer des ordinateurs et des interfaces graphiques, à collaborer avec des humains et d'autres IA dans des projets de recherche, tout en modifiant le paysage de la sécurité informatique et en introduisant de nouveaux risques. L'auteur, sur la base de résultats internes, anticipe que la vitesse actuelle de progrès pourrait se poursuivre jusqu'à l'amélioration récursive autonome. Si le développement de l'IA suit cette trajectoire, les systèmes pourraient connaître dans les années à venir des sauts de capacité équivalents ou supérieurs, et devenir de plus en plus autonomes dans leur propre évolution. L'auteur appelle à une extrême prudence, estimant que personne n'est préparé à faire face aux conséquences de l'augmentation rapide et continue de l'intelligence artificielle. OpenAI continuera de chercher des solutions techniques pour l'alignement et la surveillance, de construire des systèmes de défense et d'arrêter unilatéralement toute nouvelle mise à l'échelle si nécessaire, mais estime qu'une intervention plus large est indispensable. L'article affirme que l'intelligence artificielle est principalement pilotée par l'augmentation des capacités de calcul, et que l'IA se développe davantage par croissance que par conception. En matière d'alignement, il distingue l'alignement sur les objectifs de l'alignement sur les valeurs, le défi central étant la généralisation. L'alignement du modèle GPT-6 Astra est nettement supérieur à celui du GPT-5.6 Sol, mais d'autres progrès sont encore nécessaires. En matière de surveillance, l'accent est mis principalement sur la surveillance des chaînes de pensée ; les évaluations montrent que la dépendance à ces capacités diminue progressivement. En ce qui concerne les défenses évolutives, les modèles deviennent supérieurs aux humains pour contourner les systèmes informatiques ; nous sommes actuellement dans une fenêtre étroite où l'utilisation des meilleurs modèles disponibles permet de renforcer significativement la sécurité des systèmes critiques.