लेखक: शेनचाओ टेकफ्लो
कोई ट्रेनिंग नहीं, कोई डेटा नहीं, कोई ग्रेडिएंट डिस्केंट नहीं।
MIT के शोधकर्ताओं ने एक ओपन-सोर्स छोटे मॉडल के वजन GPT-6 Astra को दे दिए और प्राकृतिक भाषा में एक निर्देश दिया: "इसकी गणितीय क्षमता को बढ़ाएं।"
एस्ट्रा ने 20 घंटे बिताए, 8 अरब पैरामीटर्स को जांचा, और दो स्तरों के नेटवर्क में 131,072 वजन ढूंढकर सर्जरी की।
सर्जरी से पहले, इस मॉडल का MATH-500 बेंचमार्क पर स्कोर 7.9% था; सर्जरी के बाद, 48.1%।
This is today's most explosive AI news.
एक बिना ग्रेडिएंट के ऑपरेशन
2 नवंबर को, MIT कंप्यूटर विज्ञान और कृत्रिम बुद्धिमत्ता प्रयोगशाला (CSAIL) के शोध टीम ने एक ब्लॉग पोस्ट जारी किया, जिसमें उन्होंने अपने प्रयोग के परिणामों को 'वेट स्पेस प्रोग्रामिंग' के नाम से प्रकाशित किया। प्रथम लेखक रिकिया टेकेही MIT CSAIL की प्रथम वर्ष की डॉक्टरल छात्रा हैं, और सहयोगी जेडेन टीओ, एलेक्स ज़ैंग, और टेकेही के मार्गदर्शक ओमर खत्ताब हैं।
प्रयोग का मूल विचार एक वाक्य में सारांशित किया जा सकता है: एक पर्याप्त शक्तिशाली AI को दूसरे AI के "मस्तिष्क" को सीधे पढ़ने दें, समस्या की पहचान करें, और फिर सटीक शल्य चिकित्सा के साथ संशोधन करें।
चुने गए "रोगी" अलीबाबा का ओपन सोर्स मॉडल Qwen3.5-0.8B है, जो एक 8 अरब पैरामीटर का छोटा भाषा मॉडल है। "सर्जन" OpenAI का सबसे हालिया GPT-6 Astra है।
अनुसंधान टीम ने एस्ट्रा को तीन चीजें दीं: गणित के कुछ अभ्यास प्रश्न, मॉडल वजन को पढ़ने और लिखने के लिए एक पायथन वातावरण, और मॉडल इन्फरेंस कॉल के लिए सीमित बार एक्सेस। कोई GPU नहीं, कोई ट्रेनिंग लूप नहीं, कोई ऑप्टिमाइज़र नहीं। एस्ट्रा को एक मानव अनुसंधानकर्ता की तरह, मॉडल के व्यवहार को देखकर और वजन के मानों की जांच करके, समस्या का निदान करना होगा, और फिर सीधे पैरामीटर्स में संशोधन करना होगा।
पूरी प्रक्रिया 20.3 घंटे तक चली, जिसमें 4.7 घंटे सेवा विघटन के पुनर्स्थापन की प्रतीक्षा में बिताए गए। एस्ट्रा ने 158 बार संवाद, 80 बार Python निष्पादन और 50 बार मॉडल मूल्यांकन किया।
अंततः, उसने 15वें और 19वें स्तर के MLP आउटपुट मैट्रिक्स में एक ऐसा "संख्यात्मक दिशा" खोजा जिससे मॉडल दोहराए गए आउटपुट में फंस गया, और फिर 64 आउटपुट कॉलम में से इस दिशा को घटा दिया। कुल 131,072 वजन संशोधित किए गए, जो मॉडल के कुल पैरामीटर का 0.016% है।
Mathematics score increased sixfold
छोटा बदलाव, भारी प्रभाव।
तीन बेंचमार्क पर, संशोधन से पहले और बाद की तुलना निम्नलिखित है:
MATH-500: 7.9% → 48.1%
GSM8K: 13.8% → 67.1%
IFEval (निर्देश अनुपालन): 21.0% → 62.3%
एक और अधिक स्पष्ट संख्या: संशोधन से पहले, Qwen3.5-0.8B ने MATH-500 पर 93% उत्तरों में 32,768 टोकन की सीमा तक पहुँच जाने के कारण दोहराव के चक्र में फँस गया। संशोधन के बाद, यह अनुपात घटकर 33.1% हो गया।
वेंचरबीट की रिपोर्ट इसे "न्यूरल नेटवर्क का जीन एडिटिंग" के रूप में वर्णित करती है। यह उपमा सही बिंदु पर टिकती है: पारंपरिक मॉडल प्रशिक्षण एक व्यक्ति को गणित की क्षमता बढ़ाने के लिए कई अभ्यास करने के समान है, जबकि वेट स्पेस प्रोग्रामिंग अधिक ऐसा है जैसे मस्तिष्क को सीधे खोलकर गलत कनेक्टेड न्यूरॉन को ढूंढकर उसे पुनः कनेक्ट करना।
लेकिन अनुसंधान टीम ने खुद एक महत्वपूर्ण सीमा निर्धारित की: एस्ट्रा ने क्वेन में नए गणितीय क्षमताएँ नहीं डाली हैं, इसने केवल एक ऐसी बाधा हटा दी है जो मॉडल को अपनी पहले से मौजूद क्षमताओं को पूरी तरह से प्रदर्शित करने से रोक रही थी।
यह अंतर अत्यंत महत्वपूर्ण है। इसे सत्यापित करने के लिए, टीम ने Google के Gemma 3 270M मॉडल पर एक ही प्रयोग दोहराया। Gemma 3 कम ही दोहराए गए आउटपुट की समस्या का सामना करता है (केवल 8.5% उत्तरों ने token सीमा को छूआ), और परिणामस्वरूप Astra का MATH-500 स्कोर लगभग कोई सुधार नहीं दिखाता है, जिसमें 1 प्रतिशत से अधिक का कोई उतार-चढ़ाव नहीं है।
निष्कर्ष स्पष्ट है: वेटिंग स्पेस प्रोग्रामिंग वर्तमान में केवल "रुकावटें हटा सकती है", न कि "नए रास्ते बना सकती है"।
केवल गणित ही नहीं
गणित केवल अनुसंधान टीम द्वारा प्रस्तुत एक परिदृश्य है, और एस्ट्रा की वजन स्थान में क्षमताएँ इससे बहुत अधिक हैं।
स्पिरिट की पहचान करें: शोध टीम ने चार ऐसे Atari गेम स्ट्रेटेजी नेटवर्क (ब्रेकआउट, पॉंग, पैक-मैन, फ्रीवे) को ट्रेन किया जिनकी आर्किटेक्चर पूरी तरह समान थी, और फिर केवल वजन Astra को दे दिए, कोई लेबल नहीं। Astra ने केवल वजन के मानों के आधार पर प्रत्येक नेटवर्क के संबंधित गेम की सटीक पहचान की। इसका तर्क यह था: ब्रेकआउट नेटवर्क के पहले स्तर के वजन परदे के नीचे (पैडल की स्थिति) पर केंद्रित हैं, और आउटपुट स्तर के कार्य वितरण में बाएँ-दाएँ आंदोलन की प्रवृत्ति है।
शून्य से नेटवर्क बनाना: MinAtar (Atari का मिनी संस्करण) पर प्रयोग में, Astra ने शून्य से सीधे वजन स्थान में गेम स्ट्रेटेजी नेटवर्क "लिखा"। ब्रेकआउट पर, Astra द्वारा लिखा गया नेटवर्क 517.4 अंक प्राप्त करता है, जबकि PPO एल्गोरिथम का उपयोग करके 5 अरब स्टेप्स तक प्रशिक्षित नेटवर्क केवल 25.3 अंक प्राप्त करता है।
एक पीपीओ द्वारा प्रशिक्षित ऑटोनॉमस कार कंट्रोलर को फंसे हुए से बचाएं: एक ढलान पर फंसा हुआ कंट्रोलर स्थानीय न्यूनतम में फंस गया। एस्ट्रा ने केवल एक बार की बातचीत में, 3.5% वजन में संशोधन किया, और सुधारित कंट्रोलर 1,024 परीक्षणों में सभी में सफल रहा।
इन प्रयोगों की सामान्य बात यह है कि एस्ट्रा केवल वजन को "पढ़" सकती है, प्रत्येक संख्या के किस व्यवहार को दर्शाती है, इसे समझ सकती है, बल्कि वजन को "पुनः लिख" सकती है ताकि मॉडल उन कार्यों को कर सके जिन्हें प्रशिक्षण एल्गोरिथम करने में असमर्थ हैं।
What does "gene editing with neural networks" mean?
वेट स्पेस प्रोग्रामिंग से पहले, शैक्षणिक समुदाय ने मॉडल वेट को सीधे संपादित करने के प्रयास किए थे। 2022 के NeurIPS पर ROME और 2023 के ICLR पर MEMIT ने दिखाया कि भाषा मॉडल के वेट में एक तथ्यात्मक ज्ञान कैसे सटीकता से डाला या संशोधित किया जा सकता है, जैसे कि 'एफिल टावर पेरिस में है' को 'एफिल टावर रोम में है' में बदलना।
लेकिन ROME और MEMIT करते हैं「तथ्यात्मक खोज और प्रतिस्थापन」, जिसका ऑपरेशन एकल ज्ञान पर होता है। MIT टीम ने इस बार अलग चीज़ दिखाई: Astra मॉडल की सामान्य क्षमताओं, गणितीय तर्क और निर्देश पालन को संशोधित करता है, जो「एक ज्ञान बिंदु को संपादित करने」से「एक व्यवहार पैटर्न को बदलने」की सीमा पार करता है।
टाकेही ने अपने ब्लॉग में और अधिक आक्रामक निष्कर्ष निकाला: "न्यूरल नेटवर्क के वजन, जल्द ही वजनों को तर्क देने में सक्षम LLM द्वारा मूल रूप से अनुकूलित किए जाएंगे।"
यदि यह दिशा सत्यापित हो जाती है, तो संभावित अनुप्रयोगों में शामिल हैं:
मॉडल ठीक करना: डिप्लॉय किए गए मॉडल में समस्या होने पर, इसे वापस लाकर पुनः प्रशिक्षित करने की आवश्यकता नहीं है, बल्कि एक अन्य AI को "डायग्नोसिस" करने और सुधार करने के लिए दिया जा सकता है। ऐसे उन्नत मॉडल्स के लिए, जिनकी प्रशिक्षण लागत करोड़ों डॉलर होती है, इससे विशाल लागत बचत संभव हो सकती है।
मॉडल ऑडिट: यदि AI वजन को पढ़ सकता है, तो सुरक्षा शोधकर्ता इसका उपयोग एक मॉडल की जांच करने के लिए भी कर सकते हैं कि क्या उसमें बैकडoor या दुर्भावनापूर्ण व्यवहार शामिल है।
ओपन सोर्स मॉडल कस्टमाइजेशन: एक पर्याप्त शक्तिशाली AI प्राकृतिक भाषा निर्देशों के आधार पर ओपन सोर्स मॉडल के लिए क्षमताएँ 'कस्टमाइज' कर सकता है, बिना किसी ट्रेनिंग बुनियादी ढांचे के।
The other side of the coin
GPT-6 Astra खुद एक विवादास्पद मॉडल है। OpenAI ने सुरक्षा चिंताओं के कारण इसके अपग्रेड संस्करण GPT-6.1 Astra के प्रकाशन को स्थगित कर दिया था।
OpenAI के मुख्य वैज्ञानिक जाकुब पैचोकी ने Astra के तीन दिन बाद एक लेख लिखकर चेतावनी दी: OpenAI के आंतरिक परीक्षणों के परिणामों से पता चलता है कि AI की प्रगति 'आपसी स्व-सुधार' की ओर बढ़ सकती है, जिसमें AI प्रणालियाँ अपने उत्तराधिकारियों के निर्माण में अधिक से अधिक भाग लेने लगती हैं। उन्होंने कहा कि किसी भी प्रयोगशाला की आंतरिक समीक्षा प्रणाली इस संभावना का सामना करने के लिए पर्याप्त नहीं है।
वेट स्पेस प्रोग्रामिंग इस चेतावनी के केंद्र को ठीक से छूती है। यदि एक AI दूसरे AI के वेट को बदलकर इसकी क्षमता में वृद्धि कर सकता है, तो सिद्धांत रूप से, क्या एक AI अपने वेट को बदल सकता है?
अनुसंधान टीम ने अपने ब्लॉग में स्पष्ट रूप से बताया कि उन्होंने आवर्ती स्व-सुधार नहीं दिखाया है, और न ही यह दर्शाया है कि प्रभाव लगातार जमा हो सकते हैं। हालाँकि, इसने सुरक्षा समुदाय की सतर्कता को रोक नहीं पाया। PauseAI के मैक्सिम फोर्नेस ने इसे "एक अत्यंत असावधानी से भरा शोध दिशा" कहा है।
वर्तमान प्रतिबंध वास्तविक हैं: प्रयोग केवल एक 8 अरब पैरामीटर के छोटे मॉडल पर सफल रहा, Gemma 3 पर असफल रहा। पूरी प्रक्रिया में 20 घंटे और कई प्रयास-त्रुटि लगे, और किसी स्वतंत्र टीम ने इसे पुनर्निर्मित नहीं किया है, साथ ही पारंपरिक सूक्ष्म-समायोजन की तुलना में लागत में लाभ भी सत्यापित नहीं हुआ है।
लेकिन दिशा पहले से ही निर्दिष्ट कर दी गई है। ICML 2026 में प्रस्तुत एक शोध पत्र में यह प्रस्तावित किया गया है कि वजन स्थान को जनरेटिव AI के लिए "प्राथमिक मोड" के रूप में लिया जाना चाहिए, जो पाठ, चित्र और ऑडियो के साथ समान स्तर पर हो, और मॉडल को वजन को मूल रूप से समझना और संचालित करना चाहिए।
अगर 2024 को AI के लिए "चित्र देखकर बोलना" सीखने का वर्ष माना जाता है, तो 2025 को AI के लिए "कोड लिखना" सीखने का वर्ष माना जाता है, तो 2026 संभवतः AI के लिए "AI को बदलना" सीखने का वर्ष बन रहा है।
No one currently knows where this path leads.