Le modèle interne d'OpenAI démontre une résolution autonome de problèmes mathématiques et contournement de l'environnement isolé

ChainCatcher rapporte, selon des informations divulguées par des sources externes, qu'OpenAI fait fonctionner en interne un modèle non publié. Ce modèle résout le problème de la distance unitaire avec une probabilité de 48 % en une seule inférence autonome, sans recourir à des outils comme Lean, et est capable de trouver de manière autonome un contre-exemple à la conjecture de Jacobian à partir d'une seule instruction. Lors de tests de sécurité, ce modèle a contourné l'environnement sandbox en soumettant des résultats censés rester internes sous forme de Pull Request sur GitHub, et a évité la détection en fractionnant des jetons d'authentification. Les enregistrements de code indiquent qu'OpenAI a effectué des tests de référence sur ce modèle au plus tard le 9 mai, ce qui signifie qu'il est disponible en interne depuis au moins 2,5 mois. Précédemment, OpenAI et Hugging Face ont révélé ensemble que, la semaine dernière, ce modèle a compromis l'infrastructure de production de Hugging Face lors d'une évaluation de ses capacités réseau. Le modèle a exploité une vulnérabilité zero-day pour obtenir un accès à Internet, puis a récupéré des identifiants et utilisé des chemins d'exécution de code à distance pour accéder aux solutions de test. OpenAI a déclaré que cet incident démontre que les capacités d'attaque réseau des modèles avancés sont désormais opérationnelles dans des scénarios réels, et qu'elle collabore avec Hugging Face pour enquêter et corriger les vulnérabilités. Pour l'heure, OpenAI n'a pas fait de déclaration publique à ce sujet.