AI द्वारा उत्पन्न सारांश: फ्लोरिडा विश्वविद्यालय की टीम ने हाल ही में सिद्ध किए गए त्रिआयामी कोहला अनुमान को बड़े मॉडल प्रशिक्षण में लागू किया है और AI के "काला बॉक्स" समस्या को हल करने के लिए GeoLAN विधि विकसित की है। यह विधि कोहला अनुमान के सिद्धांत से उत्पन्न "चिपचिपा कोहला सेट" अवधारणा का उपयोग करती है, जो बड़े मॉडल के अर्थपूर्ण स्थान पर ज्यामितीय प्रतिबंध लगाती है और प्रशिक्षण चरण से ही अवधारणाओं को स्पष्ट करती है, जिससे AI की सोचने की प्रक्रिया ट्रेस करने योग्य हो जाती है। प्रयोग Llama-3-8B, Gemma-3-4B जैसे मॉडल पर महत्वपूर्ण प्रगति प्रदर्शित करते हैं। साथ ही, इस वर्ष के फील्ड्स पुरस्कार विजेता जेकब ट्सिमरमैन ने पुरस्कार प्राप्ति के दिन ही OpenAI में AI सुरक्षा के लिए शामिल होने की घोषणा की, जो गणित और AI के अभूतपूर्व गति से एकीकरण को दर्शाता है।

लेखक, स्रोत: लेफेंगवेन

गणित के क्षेत्र और एआई के क्षेत्र में बड़ी ताकत से सहयोग हुआ है

स्तर के शुद्ध गणितीय उपलब्धियाँ पहले से ही बड़े मॉडल प्रशिक्षण की पंक्ति में लागू हो चुकी हैं।

एक छोटी लाल पुस्तक लेखक Z9 ने एक शोध पत्र पढ़ते समय पाया कि हाल ही में सभी जगह वायरल हुए त्रिआयामी गोल्डबर्ग अनुमान को फ्लोरिडा विश्वविद्यालय की टीम ने न्यूरल नेटवर्क प्रशिक्षण प्रक्रिया में शामिल कर लिया है, जिससे बड़े मॉडल की "ब्लैक बॉक्स" समस्या का समाधान किया जा रहा है।

उनका पेपर "GeoLAN: Geometric Learning of Latent Explanatory Directions in Large Language Models" है, जिसका केंद्र बिंदु गोल्डबाक की परिकल्पना के सबूत में उत्पन्न मूल अवधारणा "स्टिकी गोल्डबाक सेट" का उपयोग करना है, जिससे बड़े भाषा मॉडल के आंतरिक अर्थ स्थान के लिए एक "व्यवस्था" स्थापित की गई है, जिससे प्रशिक्षण चरण में ही उलझे हुए अवधारणाओं को सुधारा जा सके और AI की सोचने की प्रक्रिया वास्तव में ट्रेस करने योग्य बन जाए।

वास्तव में, पहले गणित के विशेषज्ञों ने खोज की, और फिर AI शोधकर्ताओं ने खजाना ढूंढ लिया।

बड़े मॉडल की निम्न स्तरीय समस्या: प्रतिनिधित्व पतन

आइए सबसे पहले उस “ब्लैक बॉक्स समस्या” पर चर्चा करें जिसका अनुभव सभी को हुआ है।

अब के बड़े मॉडल, प्रश्न हल करने, कोड लिखने और विश्लेषण करने की सटीकता बहुत अच्छी है, लेकिन अगर आप पूछें कि "इस कदम को कैसे सोचा गया?", तो यह या तो स्पष्ट रूप से नहीं बता पाता है, या फिर एक झूठा कारण बना कर आपको भ्रमित कर देता है।

इस समस्या की जड़ एक ऐसी नींव की विशेषता में छिपी है, जिसे प्रतिनिधि पतन कहा जाता है।

आप बड़े मॉडल के अर्थ स्थान को हजारों स्तरों वाले एक विशाल बुद्धिमान गोदाम के रूप में कल्पना कर सकते हैं, जो सिद्धांत रूप से असंख्य अवधारणाओं—तर्क, भावनाएँ, तथ्य, निष्कर्ष आदि—को अलग-अलग स्थान पर रख सकता है।

लेकिन ट्रांसफॉर्मर के प्रशिक्षण के दौरान यह विशेष रूप से "आलसी" होता है, यह हमेशा सभी अर्थपूर्ण जानकारी को एक छोटे से क्षेत्र में इकट्ठा कर लेता है, जबकि शेष 90% स्थान खाली रह जाता है।

परिणामस्वरूप, सभी अवधारणाएँ एक संकीर्ण, उच्च-आयामी शंक्वाकार क्षेत्र में भिड़ जाती हैं, जिसे शैक्षणिक समुदाय "एनिसोट्रोपिक" कहता है।

और भीड़ बनाने के परिणामस्वरूप कई समस्याएँ उत्पन्न होती हैं।

उदाहरण के लिए, अवधारणात्मक उलझन एक ही दिशा में बिल्कुल असंबंधित विषयों को जबरन शामिल कर देती है, जिससे एक न्यूरॉन को “बिल्ली” के लिए प्रतिक्रिया देनी पड़ती है और “बाइबल के अध्याय” को सक्रिय करना पड़ता है।

और आप यह भी नहीं बता सकते कि कौन सा प्रतिनिधित्व किस तर्क से मेल खाता है, यहां तक कि मॉडल भी वास्तविक विचार प्रक्रिया को पुनः बना नहीं सकता।

जब निकट लेकिन भिन्न अवधारणाओं को एक साथ दबा दिया जाता है, तो भ्रम होना आसान होता है, और प्रश्न को थोड़ा बदल देने पर AI आसानी से गलत बातें करने लगता है।

इसके लिए, पेपर में एक बहुत सटीक सारांश है, कुछ ही "दुष्ट आयाम" अधिकांश जानकारी के प्रसर को कब्जे में ले लेते हैं और मॉडल की प्रभावी क्षमता को पूरी तरह बर्बाद कर देते हैं।

यह समस्या GPT, Llama और Gemma सहित सभी प्रमुख Transformer आर्किटेक्चर की एक सामान्य कमी है।

इस स्थिति का सामना करने के लिए, पिछले उद्योग के समाधान आमतौर पर “बाद में ठीक करना” थे, जहां मॉडल प्रशिक्षण पूरा होने के बाद, विरल स्व-एन्कोडर जैसे उपकरणों का उपयोग करके एक साथ उलझे अवधारणाओं को जबरन अलग किया जाता था।

लेकिन इस विधि से प्राप्त परिणाम केवल “तर्कसंगत दिखते हैं”, वे मॉडल के आंतरिक तर्क के साथ सटीक रूप से मेल नहीं खाते, और सत्यता हमेशा कम हो जाती है।

अब, GeoLAN का दृष्टिकोण सीधे बदल गया है: उलझन का इंतजार करें और फिर सुव्यवस्थित करें, बल्कि शुरुआत से ही नियमों के अनुसार व्यवस्थित करें। पूरे प्रशिक्षण के दौरान प्रतिनिधित्व स्थान पर ज्यामितीय प्रतिबंध लागू करें, ताकि प्रत्येक अवधारणा अपनी सही जगह पर हो।

How is the挂谷猜想 related to AI?

जियोलैन के विचार को समझने के लिए, पहले यह जानना आवश्यक है कि गायामा अनुमान क्या कहता है।

1917 में, गणितज्ञ कागुरा सोंइची ने एक ऐसा प्रश्न पूछा जो दिखने में सरल लगता था, लेकिन आधे शताब्दी तक गणितीय समुदाय को परेशान करता रहा: एक 1 सेमी लंबी सुई लें, और इसे मेज पर एक पूरा चक्कर लगाएं। इसके द्वारा कवर किया गया न्यूनतम क्षेत्रफल कितना हो सकता है?

आप सोच सकते हैं कि एक चक्कर लगाने के लिए, एक वृत्त बनाना पड़ेगा, जिसका क्षेत्रफल कम नहीं होगा। लेकिन गणितज्ञों ने पाया है कि इसे शून्य के करीब ले जाया जा सकता है।

How is it done?

अगर आप सुई को एक साथ घुमाते हुए फिसलाते हैं, तो यह लगभग शून्य क्षेत्रफल वाली एक अजीब आकृति बना सकती है। यानी द्वि-आयामी दुनिया में, आप सभी ज्यामितीय पथों को एक अत्यंत छोटे कोने में समायोजित कर सकते हैं।

चुनौती और बढ़ गई है, अगर यह त्रि-आयामी स्थान में हो? जब यह सुई ऊपर-नीचे, बाएँ-दाएँ, और अनंत त्रि-आयामी दिशाओं में घूम सकती हो, तो इन सभी दिशाओं में सुईयों को एक स्थान में रखने के लिए, इस स्थान का न्यूनतम आकार कितना होना चाहिए?

द्विआयामी अनुभव के अनुसार, त्रिआयामी स्थान में, इस आकृति का निरपेक्ष आयतन शून्य के करीब संपीड़ित किया जा सकता है।

लेकिन यहाँ एक नया पहेली उत्पन्न होती है: यह आकृति हालांकि आयतन के बिना खोखली है, क्या यह सूक्ष्म स्तर पर भी सिकुड़ गई है या अपनी संरचना खो चुकी है? गणितज्ञों ने इसकी हड्डी के घनत्व को मापने के लिए "फ्रैक्टल आयाम" की अवधारणा पेश की।

अंत में, वांग होंग और उनके साथीयों ने पाया कि भले ही आप आकृति के आयतन को कितना भी खोखला कर दें, प्रत्येक दिशा के सुई को ध्यान में रखते हुए, इसके अंदर की रचना अभी भी एक मजबूत "त्रि-आयामी संपूर्णता" को बनाए रखती है, जो सूक्ष्म स्तर पर किसी भी तरह से कम नहीं हुई है। यही वांग होंग की शताब्दी की समस्या को हल करने की महानता है।

इस कठिन साबित करने की प्रक्रिया में ही एक अत्यंत महत्वपूर्ण अवधारणा "स्टिकी ग्रेन असेम्बली" उत्पन्न हुई।

“स्टिकी” का मतलब है एक अलग नियम प्रणाली। यह विशेष रूप से उन लाइनों और पाइपों को नियंत्रित करने के लिए बनाई गई है, जिन्हें एक साथ नहीं आने दिया जाता।

अगर एक सेट के पाइप इन नियमों का पालन करते हैं, तो वे सही तरीके से फैल जाएंगे और स्थान जितना होना चाहिए, वैसा ही रहेगा; लेकिन अगर वे नियमों का पालन नहीं करते और सभी एक छोटे कोने में भिड़ जाते हैं, तो स्थान का "आकार" कम हो जाएगा और यह दबा हुआ लगेगा।

इतना पढ़ने के बाद आपको समझ आ गया होगा: बड़े मॉडल का प्रतिनिधित्व पतन, क्या नहीं है "अर्थ ट्यूब चिपचिपापन की शर्त को पूरा नहीं करता, सब कुछ एक साथ भिड़ गया"?

जियोलैन द्वारा किया गया कार्य, गुल्वाल अनुमान के गणितीय निष्कर्ष को सीधे इंजीनियरिंग मानक के रूप में लागू करना है: चूंकि गणितीय रूप से सख्ती से सिद्ध हो चुका है कि "चिपचिपाहट को संतुष्ट करते हुए, स्थान संकुचित नहीं होता", इसलिए हम बड़े मॉडल के अर्थपूर्ण स्थान में भी समान चिपचिपाहट सीमा जोड़ते हैं, ताकि इसका प्रतिनिधित्व स्वाभाविक रूप से एक साथ नहीं जमा हो।

इस नियम को प्रशिक्षण प्रक्रिया में शामिल करने के लिए, मुख्य बात एक मापने योग्य दंड फ़ंक्शन बनाना है, जिससे मॉडल को गणना करने और यह जानने में सक्षम होना चाहिए कि कैसे सुधार करें।

फिर, GeoLAN ने दो नियम डिज़ाइन किए जो गणना कर सकते हैं, जिन्होंने गेओमेट्रिक नियमों को ट्रेनिंग लक्ष्य में बदल दिया। एक का नाम KT-CW है, जो "सेमेंटिक क्लस्टरिंग" का इलाज करता है; दूसरा KT-Attn है, जो "ध्यान की आलस्य" का इलाज करता है।

KT-CW का सरल अर्थ है कि प्रशिक्षण के दौरान अर्थ स्थान की विभिन्न दिशाओं को यादृच्छिक रूप से नमूना दिया जाता है। यदि किसी दिशा में बहुत सारी अर्थपूर्ण जानकारी भरी पाई जाती है, तो मॉडल को अंक काट दिए जाते हैं। इससे मॉडल को मजबूर किया जाता है कि वह अपनी जानकारी को पूरे उच्च-आयामी स्थान के हर कोने में समान रूप से फैलाए, और पहले बर्बाद हुए आयामों का पूरा उपयोग करे, ताकि “एक साथ भिड़े हुए” समस्या का मूल स्तर पर समाधान हो सके।

एक अन्य KT-Attn सेट ध्यान तंत्र के आलसी व्यवहार के लिए विशेष रूप से डिज़ाइन किया गया है। प्रशिक्षण के बाद के चरणों में, बड़े मॉडल के ध्यान शीर्ष अक्सर गंभीर रूप से समानता में फंस जाते हैं, जिसमें कई शीर्ष केवल एक ही शब्द और एक ही स्थिति पर लगातार ध्यान केंद्रित करते हैं, जबकि प्रभावी कार्य करने वाले श्रमिक बहुत कम होते हैं। यह नियम प्रत्येक ध्यान शीर्ष को स्पष्ट रूप से अलग अर्थपूर्ण क्षेत्रों पर ध्यान केंद्रित करने के लिए अनिवार्य करता है, ताकि ध्यान सभी दिशाओं में कवर हो सके और ध्यान शीर्षों की रैंक समाप्ति की समस्या पूरी तरह से समाप्त हो सके।

इस कॉम्बिनेशन के बाद, प्रभाव तुरंत दिखाई दिया।

Llama-3-8B पर, GeoLAN ने मूल रूप से समीकरित शंक्वाकार प्रतिनिधित्व अंतरिक्ष को गोलाकार बना दिया, जिससे समीकरण की मात्रा में काफी कमी आई, प्रत्येक दिशा में समानता में उल्लेखनीय सुधार हुआ, और कार्य की सटीकता बनी रही।

Gemma-3-4B पर, MMLU सटीकता 0.59 से बढ़कर 0.60 हो गई, जो लगभग 0.75 प्रतिशत बिंदु की वृद्धि है। TruthfulQA की अर्थपूर्ण स्थिरता में महत्वपूर्ण सुधार हुआ है।

Gemma-3-12B के बड़े स्केल पर, पूर्वाग्रह दर सूचकांक में सांख्यिकीय रूप से स्पष्ट कमी आई है।

अधिक रोचक बात यह है कि पेपर ने एक "गोल्डिलॉक्स ज़ोन" नामक दिलचस्प घटना की खोज की।

अतः, इस कठोर ज्यामितीय सीमा का समान वितरण बहुत कम पैरामीटर वाले मॉडल के लिए एक आपदा है, क्योंकि छोटे मॉडल स्वाभाविक रूप से अत्यधिक अर्थपूर्ण संपीड़न के लिए अवधारणाओं के उलझन पर निर्भर करते हैं, और जबरन बिखेरने से आंतरिक ज्यामितीय संरचना पूरी तरह से खराब हो जाती है।

और बहुत बड़े मॉडल्स के लिए, विशाल प्री-ट्रेनिंग प्रक्रिया ने पहले ही अत्यंत जटिल मैनिफोल्ड स्ट्रक्चर को स्वयं बना लिया है, इस नियम सेट को जोड़ने से न केवल यह अनुकूल नहीं होगा, बल्कि पूरे प्रदर्शन को भी धीमा कर देगा।

केवल चार से अरब पैरामीटर जैसे मध्यम आकार के मॉडल ही समान वितरण से मिलने वाले लाभ को समेटने के लिए पर्याप्त स्थान रखते हैं, और इसलिए वे सबसे अच्छा प्रदर्शन करते हैं।

इसके अलावा, पेपर एक उपायपूर्ण प्रमेय, "सेमेंटिक स्टिकनेस थियरम" का निगमन करता है: जब प्रतिनिधित्व "क्राउड-एवॉइडेंस रूल" को संतुष्ट करता है, तो विभिन्न सेमेंटिक अवधारणाएँ स्वतः लगभग परस्पर लंबवत उप-स्थानों में विघटित हो जाती हैं, जिन्हें पेपर ने चित्रात्मक रूप से "ग्रेन्स" कहा है। प्रत्येक उप-स्थान को स्वतंत्र रूप से व्याख्या और समायोजित किया जा सकता है, जिसका अर्थ है कि वर्षों से उद्योग को परेशान करने वाली ब्लैक-बॉक्स समस्या अब पारदर्शी हो गई है।

एक ACL पेपर ने गायामा की कल्पना को शुद्ध गणित के मंदिर से एआई इंजीनियरिंग में खींच लिया।

Fields Medalist, announced joining OpenAI that day

एक और ध्यान देने योग्य बात यह है कि इस फील्ड्स पुरस्कार विजेताओं में से एक महान गणितज्ञ जेकब ट्सिमरमैन हैं, जिन्होंने पुरस्कार प्राप्ति के दिन सीधे घोषणा कर दी कि वे शीघ्र ही OpenAI में AI सुरक्षा के क्षेत्र में शामिल होंगे।

यह अग्रणी गणित और एआई के घनिष्ठ संबंध की ओर ध्यान आकर्षित करता है।

एक साल पहले, उन्होंने बर्कले के AI सुरक्षा शोधकर्ता एंड्रयू क्रिच के साथ एक पेपर "A Taxonomy of Omnicidal Futures Involving Artificial Intelligence" लिखा, जिसमें गणितज्ञ की अत्यधिक कठोरता के साथ AI जोखिम पथों के लिए एक कठोर वर्गीकरण प्रणाली बनाई गई।

वह स्वयं AI के एक भारी लाभार्थी हैं, जिन्होंने 2025 में arXiv पर पांच गणित के पेपर प्रकाशित किए और सीधे कहा कि AI ने उनके शोध उत्पादन की दक्षता को सीधे दोगुना कर दिया है।

अधिक नाटकीय बात यह है कि पुरस्कार घोषित होने से तीन दिन पहले, किसी ने Anthropic के नवीनतम Claude Fable 5 का उपयोग करके, 87 वर्षों से निलंबित जैकोबी अनुमान को एक रात में उलट दिया, जिससे वैश्विक गणितीय समुदाय हिल गया। वह व्यक्ति उनका छात्र Levent Alpöge था।

AI के लगातार बढ़ते और शीर्ष गणितज्ञों की "बुद्धिमानी" को पार करने के सामने, गणित के महान विद्वान टिमोथी ने खुलकर कहा: यह पहली बार है जब उन्होंने एक बड़े भाषा मॉडल को अपने पूरी तरह अज्ञात क्षेत्र में, प्रसिद्ध शताब्दी की समस्याओं को आसानी से हल करते हुए देखा है।

गणित और AI के बीच का संबंध अब अविभाज्य शब्द से भी आगे बढ़ चुका है; वे आश्चर्यजनक गति से एक हो रहे हैं।

पिछले वर्ष के लिए गणितीय मैदान में AI के प्रदर्शन का समीक्षा करें, जहां DeepMind का AlphaProof ने अंतरराष्ट्रीय गणित ओलंपियाड में रजत पदक जीता, OpenAI के निष्कर्षण मॉडल ने आठ दशकों से अनसुलझी एर्डोश यूनिट डिस्टेंस कल्पना को खारिज कर दिया, GPT-5.6 ने केवल एक घंटे में साइक्लिक डबल कवर कॉन्जेक्चर को हल कर दिया, और Claude Fable 5 ने एक रात में जैकोबी कॉन्जेक्चर को समाप्त कर दिया—AI ने केवल दो महीनों में कई शताब्दी के रिकॉर्ड स्थापित किए हैं, और समाधान की गति घातीय रूप से तेज हो रही है।

एमएस इंटरव्यू में, जेकब ने सीधे कहा, "गणितीय समुदाय में बहुत सारी आत्म-संतुष्टि है, जहाँ लोग देखते हैं कि AI अभी गणितज्ञों से कम है, और इसलिए निष्कर्ष निकालते हैं कि यह हमेशा गणितज्ञों से कम ही रहेगा।" उन्होंने अपने अभ्यास से साबित किया कि, हालाँकि मॉडल के प्रमाण "अपूर्ण और अनियमित" होते हैं, लेकिन "आमतौर पर वे लगभग सही तरीका प्रस्तुत करते हैं, जो आपको आठ प्रतिशत रास्ता पूरा करने में मदद करता है।"

उसने यह भी सोचा कि दो वर्षों के भीतर, AI गणितीय सिद्धांतों में मानवों को पूरी तरह से पार कर जाएगा।

तो सवाल यह है: 2030 में, चार साल बाद, फील्ड्स पुरस्कार का कोई मानव विजेता होगा?

फील्ड्स पुरस्कार के लिए एक कठोर आयु सीमा है, जिसके अनुसार पुरस्कार विजेता की आयु 40 वर्ष से कम होनी चाहिए। इसका अर्थ है कि यदि भविष्य में चार वर्षों के भीतर AI मानव गणितज्ञों की मौलिक खोज क्षमता को व्यवस्थित रूप से पार कर जाता है, तो मूल्यांकन समिति के सामने एक अभूतपूर्व समस्या उत्पन्न होगी: क्या आप पुरस्कार सबसे अच्छा गणित कार्य करने वाले को दे रहे हैं, या सबसे अच्छा गणित कार्य करने वाले मानव को?

अधिक रोचक बात यह है कि गणित और AI का द्विदिशीय त्वरण। त्रिआयामी कूगा अनुमान का साबित होने के तीन महीने बाद GeoLAN बन गया, जो शुद्ध गणित की उपलब्धि सीधे बड़े मॉडल प्रशिक्षण उपकरण में बदल गई। आज फील्ड्स पुरस्कार पर सम्मानित André-Oort अनुमान और हिल्बर्ट के छठे समस्या की प्रगति, कल किस प्रकार की AI क्षमता में विकसित होगी?

पहले हमेशा कहा जाता था कि गणितज्ञ आगे नई राह बनाते हैं, और AI पीछे से खजाना इकट्ठा करता है। लेकिन अब, जो खजाना इकट्ठा कर रहा था, वही अब खुद राह बनाने लगा है।