Résumé généré par l’IA : L’équipe de l’Université de Floride a appliqué la conjecture de Kakeya en trois dimensions, récemment prouvée, à l’entraînement de grands modèles, développant la méthode GeoLAN pour résoudre le problème de la « boîte noire » de l’IA. Cette approche utilise le concept de « ensemble de Kakeya visqueux » issu de la preuve de la conjecture, afin d’imposer des contraintes géométriques à l’espace sémantique des grands modèles, en clarifiant les concepts dès la phase d’entraînement et en rendant les chemins de réflexion de l’IA traçables. Des améliorations significatives ont été observées sur des modèles tels que Llama-3-8B et Gemma-3-4B. Par ailleurs, Jacob Tsimerman, lauréat de la médaille Fields cette année, a annoncé le jour même de sa récompense qu’il rejoignait OpenAI pour travailler sur la sécurité de l’IA, illustrant la fusion sans précédent entre les mathématiques et l’IA.

Auteur et source de l'article : Leifengwang

Le monde des mathématiques et celui de l'IA ont fortement collaboré

Des résultats mathématiques purs et rigoureux ont déjà été directement appliqués à la formation des grands modèles.

Un auteur sur Xiaohongshu, Z9, a découvert en consultant des articles académiques que la conjecture de Kakeya en trois dimensions, qui vient de faire le tour du web, a désormais été intégrée par une équipe de l'Université de Floride dans le processus d'entraînement des réseaux neuronaux, résolvant ainsi de manière transversale le problème de la « boîte noire » des grands modèles.

Leur article s'intitule « GeoLAN : Geometric Learning of Latent Explanatory Directions in Large Language Models », et son point central consiste à utiliser le concept clé issu de la preuve de la conjecture de Kakeya, appelé « ensemble de Kakeya adhérent », pour établir un « cadre d'organisation » dans l'espace sémantique interne des grands modèles, en désenchevêtrant les concepts confus dès la phase d'entraînement, afin que les chemins de réflexion de l'IA deviennent véritablement traçables.

On peut dire que, devant, les grands mathématiciens ont ouvert la voie, et derrière, les chercheurs en IA ont trouvé des trésors.

Le problème fondamental des grands modèles : effondrement de la représentation

Commençons par le « problème de la boîte noire » que tout le monde ressent.

Les grands modèles actuels ont un taux de précision élevé pour résoudre des problèmes, écrire du code ou effectuer des analyses, mais lorsque vous leur demandez « Comment avez-vous pensé à cette étape ? », ils ne parviennent pas à l'expliquer clairement ou inventent simplement une fausse raison pour vous tromper.

La racine de cette question réside dans une caractéristique fondamentale appelée effondrement de la représentation.

Vous pouvez imaginer l'espace sémantique du grand modèle comme un entrepôt intelligent géant de plusieurs milliers d'étages, capable, en théorie, de classer et d'accueillir un nombre infini de concepts : logique, émotion, fait, raisonnement, etc., chacun occupant son espace.

Mais pendant l'entraînement, les Transformers ont tendance à « paresseusement » regrouper toutes les informations sémantiques dans une petite zone à l'entrée de l'entrepôt, laissant les 90 % restants totalement inutilisés.

Le résultat est que tous les concepts sont regroupés dans une région conique étroite à haute dimension, ce que la communauté académique appelle l'« anisotropie ».

Mais regrouper tout cela entraîne de nombreux problèmes.

Par exemple, l’intrication conceptuelle force des contenus totalement déconnectés à être regroupés dans la même direction, obligeant un neurone à répondre à la fois à « chat » et à activer des « versets bibliques ».

Et vous ne pouvez même pas déterminer quelle partie de la représentation correspond à quel raisonnement, pas même le modèle ne peut reconstituer le chemin de pensée réel.

Lorsque des concepts similaires mais différents sont regroupés ensemble, il est facile de se tromper ; un léger changement de formulation peut amener l'IA à dire n'importe quoi.

Pour cela, l'article contient une synthèse très précise : quelques rares « dimensions malhonnêtes » monopolisent la majeure partie de la variance d'information, gaspillant ainsi toute la capacité utile du modèle.

Ce problème est un défaut de presque toutes les architectures Transformer principales, de GPT à Llama en passant par Gemma.

Face à cette situation, les solutions précédentes de l'industrie étaient essentiellement des mesures correctives prises après coup : une fois le modèle entraîné, on utilisait des outils comme des autoencodeurs clairsemés pour décomposer artificiellement les concepts entrelacés.

Mais ce méthode produit des résultats qui semblent raisonnables, sans nécessairement refléter la logique interne du modèle ; la fidélité reste toujours compromise.

Maintenant, GeoLAN a complètement changé d'approche : au lieu d'attendre que tout devienne désordonné pour ensuite réorganiser, il met en place les règles dès le départ. Il applique des contraintes géométriques à l'espace de représentation tout au long de l'entraînement, afin que chaque concept occupe sa place exacte.

Comment le conjecture de挂谷 est-il lié à l'IA ?

Pour comprendre l'idée de GeoLAN, il faut d'abord savoir de quoi parle la conjecture de Koike.

En 1917, le mathématicien Kakeya Soichi a posé un problème apparemment simple, mais qui a tourmenté la communauté mathématique pendant un demi-siècle : en prenant une aiguille d’un centimètre de long et en la faisant tourner d’un tour complet sur une surface plane, quelle est la plus petite aire qu’elle peut balayer ?

Vous pourriez penser qu'en faisant un tour, il faut nécessairement décrire un cercle, dont l'aire ne peut pas être négligeable. Mais les mathématiciens ont découvert qu'elle peut s'approcher de zéro.

Comment est-ce possible ?

Si vous faites tourner une aiguille tout en la faisant glisser, elle peut dessiner une forme étrange dont l'aire est presque nulle. Autrement dit, dans un espace bidimensionnel, vous pouvez condenser toutes les trajectoires géométriques possibles dans un tout petit coin.

Le défi s'intensifie encore : et si nous étions dans un espace tridimensionnel ? Lorsque cette aiguille peut tourner dans toutes les directions spatiales — haut, bas, gauche, droite, et bien plus encore — quelle taille minimale doit avoir cet espace pour y loger toutes ces aiguilles orientées dans toutes les directions ?

Selon l'expérience bidimensionnelle, dans l'espace tridimensionnel, le volume absolu de cette forme peut toujours être compressé jusqu'à être proche de zéro.

Mais cela soulève un nouveau mystère : ce graphique, bien qu'vide et sans volume, s'est-il également rétréci et dégradé à l'échelle microscopique ? Les mathématiciens ont introduit la « dimension fractale » pour mesurer la densité de son squelette.

Enfin, Wang Hong et ses collègues ont découvert que, même en réduisant au maximum le volume de la forme, pour prendre en compte chaque aiguille dans toutes les directions, son squelette interne conservait une « densité tridimensionnelle » solide, sans aucune dégradation au niveau microscopique. C’est précisément là que réside la grandeur de Wang Hong dans la résolution du problème séculaire.

C'est pendant ce processus de preuve rigoureuse qu'un concept extrêmement crucial, appelé « ensemble de Kakeya collant », est né.

« Collant » signifie en fait un ensemble de règles anti-accumulation. Il est spécifiquement conçu pour empêcher les segments et les tubes de se rapprocher les uns des autres.

Si un ensemble de tubes respecte ces règles, ils s'étaleront correctement, et l'espace restera exactement de la taille qu'il doit être ; mais s'ils ne les respectent pas et se bousculent dans un petit coin, la « taille » de l'espace rétrécira, semblant écrasée.

À ce stade, vous devriez pouvoir faire le lien : l'effondrement des représentations des grands modèles, ce n'est pas exactement « les tubes sémantiques ne satisfaisant pas la condition de viscosité, tout regroupé en un seul bloc » ?

Ce que fait GeoLAN, c'est prendre directement les conclusions mathématiques de la conjecture de Gu Valley comme norme d'ingénierie : puisque la mathématique a déjà prouvé rigoureusement que « la viscosité est satisfaite et l'espace ne s'effondre pas », nous appliquons la même contrainte de viscosité à l'espace sémantique des grands modèles, afin que leurs représentations ne se regroupent pas naturellement.

Incorporating this rule into the training process requires designing a quantifiable penalty function—a rule the model can compute and know how to adjust.

Ensuite, GeoLAN a conçu deux ensembles de règles de pénalité calculables, transformant les règles géométriques de la conjecture de谷 en objectifs d'entraînement. L'un s'appelle KT-CW, spécialement conçu pour traiter le « regroupement sémantique » ; l'autre s'appelle KT-Attn, spécialement conçu pour traiter la « paresse d'attention ».

KT-CW, en bref, consiste à échantillonner aléatoirement diverses directions de l'espace sémantique pendant l'entraînement. Si une direction contient trop d'informations sémantiques, le modèle est pénalisé. Cela oblige le modèle à répartir uniformément les connaissances dans chaque recoin de l'espace de haute dimension, en utilisant pleinement les dimensions auparavant gaspillées, et en résolvant ainsi fondamentalement le problème de « surcharge ».

Un autre ensemble, KT-Attn, cible spécifiquement le manque d'engagement des mécanismes d'attention. À la fin de l'entraînement, les têtes d'attention des grands modèles tombent souvent dans une homogénéisation sévère, où de nombreuses têtes ne se concentrent que sur le même mot à la même position, laissant très peu de capacités réellement actives. Cette règle impose strictement à chaque tête d'attention de se concentrer sur des régions sémantiques totalement distinctes, garantissant une couverture complète dans toutes les directions et éliminant complètement le phénomène d'effondrement du rang des têtes d'attention.

L'effet de cette série de mesures est immédiat.

Sur Llama-3-8B, GeoLAN a transformé l'espace de représentation conique initialement écrasé en une sphère lisse, réduisant significativement le regroupement et améliorant considérablement l'uniformité dans toutes les directions, tout en maintenant la précision de la tâche.

Sur Gemma-3-4B, la précision MMLU est passée de 0,59 à 0,60, soit une amélioration d'environ 0,75 point de pourcentage. La stabilité sémantique de TruthfulQA s'est considérablement améliorée.

Sur le modèle plus volumineux Gemma-3-12B, l'indicateur de taux de biais a également connu une baisse statistiquement significative.

Plus intéressant, l'article a également révélé un phénomène intéressant appelé « la zone d'or ».

Ainsi, la distribution uniforme de ces contraintes géométriques strictes constitue au contraire un désastre pour les modèles trop petits ; les petits modèles ont naturellement besoin d’entrelacement conceptuel pour réaliser une compression sémantique extrême, et les dissocier artificiellement ne fait que dégrader complètement leur structure géométrique interne.

Pour les modèles géants trop volumineux, le processus de pré-entraînement massif a déjà spontanément établi une structure de variété extrêmement complexe ; ajouter ce jeu de règles non seulement ne s'adapte pas, mais ralentit également les performances globales.

Seuls les modèles de taille moyenne, comme ceux de quatre à huit milliards de paramètres, possèdent exactement l'espace nécessaire pour tirer parti des avantages apportés par la distribution uniforme, ce qui donne les meilleurs résultats.

En outre, l'article déduit un théorème élégant, le « théorème de la cohésion sémantique » : lorsque les représentations satisfont la « règle d'anti-pression », les différents concepts sémantiques se décomposent automatiquement en sous-espaces approximativement orthogonaux, que l'article appelle de manière imagée des « grains ». Chaque sous-espace peut être interprété et ajusté indépendamment, ce qui rend transparent un problème de boîte noire qui préoccupait l'industrie depuis des années.

Un article ACL a tiré la conjecture de Kakeya du domaine des mathématiques pures pour la plonger dans l'ingénierie de l'IA.

Laureat du prix Fields, a annoncé son entrée chez OpenAI ce jour-là

Un autre point à noter est que l'un des lauréats de la médaille Fields, le mathématicien renommé Jacob Tsimerman, a annoncé le jour même de sa récompense qu'il rejoindrait bientôt OpenAI pour travailler sur la sécurité de l'IA.

Cela souligne le lien étroit entre les mathématiques de pointe et l'IA.

Il y a un an, il a coécrit avec Andrew Critch, chercheur en sécurité de l'IA à Berkeley, l'article « A Taxonomy of Omnicidal Futures Involving Artificial Intelligence », établissant un système de classification rigoureux pour les voies de risque de l'IA avec la rigueur extrême d'un mathématicien.

Il est lui-même un grand bénéficiaire de l'IA : en 2025, cinq de ses articles de mathématiques ont été publiés sur arXiv, et il affirme directement que l'IA a doublé l'efficacité de sa production scientifique.

Plus dramatique encore, trois jours avant la remise du prix, quelqu'un a utilisé le tout nouveau Claude Fable 5 d'Anthropic pour renverser en une nuit la conjecture de Jacobi, suspendue depuis 87 ans, bouleversant la communauté mathématique mondiale. Cette personne était précisément son étudiant, Levent Alpöge.

Face à l'IA qui ne cesse de rattraper, voire de dépasser, l'intelligence des meilleurs mathématiciens, le géant des mathématiques Timothy a公开 déclaré : c'est la première fois de sa vie qu'il voit un modèle de langage massif résoudre facilement un problème célèbre du siècle dans un domaine totalement étranger à ses connaissances.

La relation entre les mathématiques et l'IA a déjà dépassé le cadre du terme « inséparable » ; elles s'unifient à un rythme étonnant.

En revisant les performances de l'IA au cours de la dernière année dans les arènes mathématiques, de la médaille d'argent remportée par AlphaProof de DeepMind aux Olympiades internationales de mathématiques, jusqu'à la réfutation par le modèle de raisonnement d'OpenAI de la conjecture d'Erdős sur les distances unitaires, un problème non résolu depuis huit décennies, puis à GPT-5.6 résolvant la conjecture du double recouvrement cyclique en seulement une heure, et Claude Fable 5 éliminant la conjecture de Jacoby en une nuit, l'IA a établi plusieurs records du siècle en l'espace de deux mois seulement, et la vitesse de ses avancées s'accélère de façon exponentielle.

Dans l'interview d'AMS, Jacob a déclaré franchement : « Il existe beaucoup d'auto-justification dans le monde des mathématiques, où les gens observent que l'IA n'est pas encore aussi bonne que les mathématiciens et en déduisent qu'elle ne le sera jamais. » Il a prouvé par sa pratique que, bien que les démonstrations du modèle soient « incomplètes et peu rigoureuses », elles « permettent généralement d'identifier une approche globalement correcte, vous aidant à accomplir 80 % du chemin ».

Il pense même que dans deux ans, l'IA dépassera complètement les humains en matière de preuves mathématiques.

La question est donc la suivante : en 2030, à l'occasion de la médaille Fields, y aura-t-il encore un lauréat humain ?

La médaille Fields impose une limite d'âge stricte : les lauréats doivent avoir moins de 40 ans. Cela signifie que si, dans les quatre prochaines années, l'IA dépasse systématiquement les capacités des mathématiciens humains en matière de découvertes originales, le comité de sélection se trouvera face à un dilemme sans précédent : attribuez-vous le prix à la personne ayant réalisé le meilleur travail mathématique, ou à la meilleure personne parmi les humains ayant réalisé le meilleur travail mathématique ?

Plus fascinant encore, c’est l’accélération mutuelle entre les mathématiques et l’IA. La conjecture de Kakeya en trois dimensions vient d’être démontrée, et trois mois plus tard, GeoLAN est né — un résultat purement mathématique directement transformé en outil d’entraînement de grands modèles. Quelles capacités d’IA émergeront demain à partir des avancées récemment récompensées au prix Fields, comme la conjecture d’André-Oort ou la résolution du sixième problème de Hilbert ?

On disait autrefois que les mathématiciens ouvraient la voie en tête, tandis que l’IA suivait pour ramasser les trésors. Mais aujourd’hui, celui qui ramassait les trésors a commencé à creuser sa propre voie.