Des médias étrangers rapportent que Terence Tao, professeur à l'UCLA et lauréat de la médaille Fields, a récemment averti publiquement que l'IA consomme les problèmes ouverts véritablement capables de faire progresser la discipline plus rapidement que la communauté mathématique ne peut en produire de nouveaux. Selon lui, le risque ne réside pas dans la capacité des modèles à produire davantage de preuves, mais dans leur potentiel à comprimer trop rapidement l'espace d'exploration sur lequel les chercheurs travaillent depuis longtemps.
Les défis à haute valeur deviennent moins nombreux
Terence Tao souligne que les problèmes mathématiques peuvent être générés à l'infini, mais que peu d'entre eux sont véritablement importants. Bien que de nombreux problèmes non résolus existent, ils ne permettent pas toujours de développer de nouvelles méthodes ni de faire progresser les domaines concernés. Par le passé, les chercheurs s'appuyaient sur leur expérience pour déterminer quels problèmes méritaient d'être abordés pendant des mois, voire des années.
Il estime que l'IA perturbe ce rythme. Autrefois, les nouveaux outils réduisaient la difficulté de certains problèmes, tout en ouvrant de nouvelles directions au-delà des limites des capacités. Aujourd'hui, la limite des modèles n'est pas claire, et les chercheurs peinent à déterminer quels problèmes méritent toujours un investissement à long terme et lesquels pourraient être résolus directement par les modèles dans un avenir proche.
Le laboratoire d'IA a lancé une compétition de résolution rapide de problèmes.
L'article mentionne qu'en mai de cette année, le modèle d'OpenAI a fourni un contre-exemple à la conjecture des distances unitaires d'Erdős, touchant à ce problème mathématique existant depuis environ 80 ans. Des mathématiciens externes, notamment le lauréat de la médaille Fields Tim Gowers, ont ensuite vérifié ce résultat.
Presque en même temps, les chercheurs d'Anthropic ont également testé la même question avec Claude Mythos, encore non publié. Les ingénieurs de l'entreprise ont déclaré que le modèle a fourni une preuve plus courte ; certains mathématiciens estiment que sa version est légèrement inférieure à celle d'OpenAI, mais qu'elle a également trouvé une solution viable.
Le rapport indique également qu'Anthropic a ensuite formalisé la preuve historique du dernier théorème de Fermat. Quelques jours plus tard, OpenAI a résolu un problème vieux d'environ 90 ans, quelques heures seulement après qu'un chercheur ait publié sa propre preuve. Cette vitesse est précisément ce que Terence Tao craint.
Suggérer d'augmenter le poids du processus d'inférence
Terence Tao suggère de marquer certains problèmes comme « nécessitant une analyse ». Selon cette norme, la valeur d'une réponse correcte isolée est réduite ; les chercheurs doivent expliquer à la fois leur raisonnement et les enseignements que ce raisonnement apporte pour des problèmes voisins.
Il estime que ne chercher qu'à extraire rapidement des réponses résout effectivement les problèmes à court terme, mais au prix d'affaiblir l'écosystème de questions nécessaire à la prochaine série de recherches, et sans favoriser la compréhension de pourquoi les résultats existants sont valables. Selon le rapport, cette suggestion n'a pas encore été formalisée en règle, et les progrès continus des grands laboratoires d'IA pourraient amener la communauté mathématique à affronter plus rapidement le débat sur les critères d'évaluation.