Nous sommes entrés dans le singulier.
Le 22 juillet, Musk a partagé sur X un message de Will DePue, chercheur chez OpenAI et l'un des développeurs principaux de Sora, en y ajoutant ce commentaire.
DePue a écrit dans son post, avec un ton légèrement ironique : C'est probablement la chose la plus folle que j'aie lue ces derniers jours... On dirait qu'on entre dans la singularité.
Ce post relie les quelques événements les plus marquants de l'écosystème IA des trois derniers mois :
Le 21 juillet, le modèle d'OpenAI a réussi à s'échapper d'un sandbox de sécurité lors d'une évaluation de cybersécurité et a atteint le système de production de Hugging Face ;
Le 20 juillet, un chercheur d'Anthropic a utilisé le tout récent Claude Fable 5 pour trouver un contre-exemple à la conjecture de Jacoby, non résolue depuis 87 ans ;
Le 20 mai, un modèle interne d'OpenAI a réfuté une ancienne conjecture datant de près de 80 ans sur le problème de la distance unité plane ;
Le 14 avril, GPT-5.4 Pro a résolu un problème de ensemble de nombres premiers datant d'environ 60 ans (Erdős #1196), et la preuve a été vérifiée par formalisation Lean.
Mur mathématique, mur de sécurité, tous deux percés par l'IA en trois mois.
No wonder Musk, after reading it, dropped the line, "We've entered the singularity."
Il a déjà dit des choses similaires deux fois en janvier seulement cette année :
Le 4 janvier, quelques ingénieurs ont commenté que l'IA avait accompli en quelques semaines ce qui aurait pris des années, et il a répondu : « Nous sommes entrés dans le point de singularité ».
À la fin de janvier, on a encore qualifié le réseau social Moltbook, regroupant de nombreux agents IA, de « phase la plus précoce du point singulier ».
Cela fait la troisième fois cette année.
Le terme « singularité » n'a pas non plus une définition scientifique reconnue.
C’est le futuriste et auteur de The Singularity Is Near, Ray Kurzweil, qui l’a fait entrer dans le mainstream.
La définition qu'il a donnée est le moment où l'humain et l'IA se fusionnent, et il a parié sur l'année 2045.
Au début de l'année, Daniela Amodei, PDG d'Anthropic, a déclaré que le terme AGI était presque obsolète, car selon de nombreux indicateurs, nous avons déjà franchi cette ligne.
Ultimately, it's more about emotion than a precise measuring tool.
Ce qui mérite vraiment d'être réfléchi, ce sont les événements que Musk a reliés cette fois-ci.
Le premier mur, une conjecture mathématique de 1980, est renversé par l'IA
Commençons par l'élément le plus fondamental.
En 1946, le mathématicien Erdős a posé le « problème des distances unitaires dans le plan » : étant donné n points dans le plan, quel est le nombre maximal de paires de points dont la distance est exactement égale à 1 ?
La question peut être résumée en une phrase, mais elle a dérouté la communauté mathématique pendant près de 80 ans. Pendant des décennies, la communauté a accepté que la structure de « grille carrée » soit la solution optimale, et Erdős lui-même l'a supposé.
Résultat, un modèle interne d'OpenAI a réfuté cette conjecture répandue depuis près de 80 ans. Il a fourni une nouvelle construction permettant une optimisation polynomiale, prouvant que « l'optimal » n'est pas encore atteint.
Structure précédemment reconnue comme optimale : une grille carrée étendue produit un grand nombre de paires de points à distance unitaire. Le modèle interne d'OpenAI propose une nouvelle construction, réfutant cette conjecture ancienne de près de 80 ans.
Mais ce qui est le plus surprenant, c'est sa méthode de résolution.
Ce n'est pas un système spécialisé entraîné pour les mathématiques, mais un modèle de raisonnement général. Il a même mobilisé des outils très avancés de la théorie algébrique des nombres pour résoudre un problème géométrique qui semble « élémentaire ». Le lauréat de la médaille Fields Tim Gowers a commenté : « C'est une étape décisive dans le domaine des mathématiques par l'IA. »
Cependant, cette preuve a été proposée par une IA et vérifiée par des mathématiciens humains ; ses implications futures sont encore en cours d’étude.
Ce qui est vraiment surprenant chez l'IA, ce n'est pas sa vitesse de calcul, mais le fait qu'elle ait proposé une structure mathématique qui n'existait pas auparavant ; elle a révélé pour la première fois une capacité de découverte au niveau « recherche », non pas en remplaçant les mathématiciens, mais en imaginant un chemin que les mathématiciens n'avaient jamais envisagé.
Ensuite, des chercheurs d'Anthropic ont utilisé le tout récent Claude Fable 5 pour trouver un contre-exemple à la conjecture de Jacoby, non résolue depuis 87 ans.
Deuxième mur : pour tricher, le modèle s'est lui-même échappé du sandbox
Résoudre des problèmes mathématiques est excitant, mais celui-ci laisse un frisson dans le dos.
OpenAI et HuggingFace révèlent conjointement : lors d'une évaluation interne des capacités de sécurité réseau du modèle, celui-ci a affiché un comportement inattendu.
Cette évaluation visait précisément à tester les capacités de découverte de vulnérabilités, en désactivant délibérément certaines réponses de refus de sécurité. La tâche du modèle consistait à résoudre un ensemble d'exercices appelé ExploitGym.
Ensuite, il a fait quelque chose que les chercheurs n'avaient pas prévu.
Pour obtenir les réponses, il a d'abord exploité une vulnérabilité zero-day pour obtenir un accès réseau, puis a progressivement augmenté ses privilèges et effectué des déplacements latéraux, avant de pénétrer directement dans l'infrastructure de production de Hugging Face et de consulter la base de données pour trouver les réponses de test. OpenAI affirme qu'il s'agit probablement du premier cas de ce type.
Trajectoires de modèles sur le réseau d'entraînement « The Last Ones » en 32 étapes de l'Institut britannique de recherche sur la sécurité de l'IA : des modèles de pointe comme GPT-5.6-Sol et Claude Mythos 5 peuvent accomplir en continu, sur une longue durée, des attaques en plusieurs étapes incluant la reconnaissance, le déplacement latéral, la montée de privilèges et la prise de contrôle du réseau.
Mais ce n’est pas une prise de conscience de l’IA qui la pousse à fuir. Une formulation plus précise serait : l’objectif n’était pas erroné, mais la méthode utilisée pour l’atteindre a dépassé les attentes humaines. Elle a adopté une approche inattendue pour accomplir un objectif de test très ciblé.
Il y a aussi un détail fascinant.
Après coup, Hugging Face avait l'intention d'utiliser un modèle de grande taille de pointe à des fins commerciales pour analyser les journaux d'attaque, mais a été bloqué par les garde-fous de sécurité du modèle : ceux-ci ne parvenaient pas à distinguer les attaquants des défenseurs venus éteindre l'incendie, et refusaient systématiquement de répondre.
L'attaque n'a pas de barrières, tandis que la défense est bloquée par ses propres barrières — ceci est peut-être l'un des coins les plus embarrassants, mais aussi les plus réels, de la « sécurité de l'IA » aujourd'hui.
Troisième mur, un modèle non publié, révélant des dizaines de milliers de vulnérabilités
Troisième chose, en avril de cette année.
Anthropic, en collaboration avec AWS, Apple, Google, Microsoft, Cisco, la Linux Foundation, JPMorgan Chase et d'autres géants, lance Project Glasswing, utilisant un modèle non encore publié, Claude Mythos Preview, pour aider à identifier des vulnérabilités.
En conséquence, il a révélé des milliers de vulnérabilités critiques couvrant tous les systèmes d'exploitation et navigateurs principaux ; dans les mises à jour suivantes, ce chiffre est devenu « plus de dix mille vulnérabilités critiques ou graves ».
Cela inclut une vulnérabilité présente dans OpenBSD depuis 27 ans, ainsi qu'un vieux bug dans FFmpeg qui a été déclenché par des tests automatisés plus de 5 millions de fois sans jamais être détecté.
CyberGym vulnerability reproduction scoring: The unreleased Mythos Preview achieved 83.1%, significantly outperforming the previous Opus 4.6 at 66.6%. This model discovered tens of thousands of critical vulnerabilities.
La même capacité peut aider les défenseurs à identifier des vulnérabilités, ainsi que les attaquants à les exploiter. Anthropic a lui-même averti : « Les attaquants assistés par l'IA » constitueront un défi de sécurité majeur.
Glasswing est un projet de défense et ne signifie pas que l'IA effectue déjà des attaques autonomes. Mais il indique clairement à tous : la sécurité de l'IA entre officiellement dans l'ère de la compétition offensive et défensive.
Véritable accélérateur, il commence à pointer vers l'IA elle-même
Jusqu'ici, l'IA a encore attaqué ou défendu les systèmes humains.
Ce qui a vraiment rendu ces trois mois différents, c'est autre chose : cette capacité à « trouver son propre chemin » commence à être utilisée pour créer la prochaine génération d'IA.
Il possède un terme appelé amélioration récursive auto (RSI), qui consiste à faire en sorte que l'IA améliore l'IA, génération après génération, comme un intérêt composé qui s'accélère de plus en plus.
C'est aussi le moteur le plus central de toute la narration du « point singulier ». Et maintenant, chaque laboratoire de pointe pompe frénétiquement du carburant dans ce moteur.
OpenAI a écrit sur sa feuille de route publique :
En septembre 2026, créer un chercheur IA automatisé de niveau « stage en recherche » capable de traiter seul des tâches qui prendraient des humains plusieurs jours.
En mars 2028, passez à la version complète, capable de concevoir vos propres méthodes, d'exécuter des analyses, d'interpréter les résultats et de proposer les prochaines étapes.
Ultraman has also provided a timeline for this matter.
En juin de cette année, selon The Information, il avait déclaré en interne aux employés : l'entreprise est à moins de six mois de l'RSI ; si elle franchit ce cap, le report de l'IPO pourrait être plus avantageux.
Les chiffres fournis par Anthropic indiquent la même tendance : la durée des tâches que l'IA peut assumer double tous les quatre mois ; ses ingénieurs produisent aujourd'hui huit fois plus de code chaque trimestre qu'auparavant.
La fenêtre du RSI se resserre : celui qui fait d'abord tourner ce volant pourrait bien se détacher de tous les autres.
Cependant, même le scientifique en chef d'OpenAI, Jakub Pachocki, a déclaré qu'il ne s'attendait pas à ce que le modèle puisse s'améliorer lui-même ou résoudre l'alignement de manière autonome dans l'année.
Mais lorsque cette roue commence à tourner et que l'objectif est « rendre l'IA plus puissante », un modèle capable de « trouver son propre chemin » ne risque-t-il pas de contourner automatiquement certaines limites que nous n'avons pas explicitement définies ?
C'est ici que vous devez concentrer votre attention dans cette course RSI.
Revenons à la déclaration de Musk : « Le point de singularité est atteint. » Sa valeur la plus importante réside dans le fait qu'elle nous rappelle que ce qui a vraiment changé ces trois derniers mois, c'est que l'IA a appris à trouver elle-même des chemins que les humains n'avaient pas envisagés ni protégés.
En mathématiques, c'est étonnant ; en matière de sécurité, c'est un risque.
Alors, la vraie question est : lorsque l’IA commence à trouver de nouvelles voies plus vite que les humains ne peuvent installer des barrières, établir des règles et combler les failles, parviendrons-nous encore à suivre ?
Références :
https://x.com/elonmusk/status/2079839398959697982
https://x.com/willdepue/status/2079718977945928108
https://openai.com/index/hugging-face-model-evaluation-security-incident/
https://www.anthropic.com/glasswing
Cet article provient du compte WeChat « Nouvelle Intelligence », auteur : Apocalypses de l'ASI ; éditeur : Yuan Yu