हाल ही में हमने "निरंतर अध्ययन" दिशा की ओर इशारा करने वाली कई स्टार्टअप और शोध परिणामों की रिपोर्ट की है, जैसे कि 《Mind Lab ने LoRA की नवीनतम प्रगति लगातार जारी की, बड़े मॉडल के "निरंतर अध्ययन" का नया प्रतिरूप सामने आया》, 《KV Cache के बंधन से मुक्ति, लंबे संदर्भ को वजन में दबाएं, क्या निरंतर अध्ययन वाले बड़े मॉडल की संभावना है?》, 《ICML 2026 | सीमा को पार करें! हॉंगकांग विश्वविद्यालय ने पहला 300+ कार्यों के लिए अनुकूलित निरंतर अध्ययन आर्किटेक्चर प्रस्तुत किया, भूलने की समस्या का हल निकाला》, 《जो DeepSeek स्वयं के लिए विकसित होने वाला Harness! LlamaFactory लेखक ने नया ओपन-सोर्स टूल जारी किया: 0.2 युआन में ऑटोमैटिक Agent बनाएं》, 《जब "बड़ा होना" एकमात्र रास्ता नहीं रहा, तो एक और चीनी मॉडल ओपन-सोर्स हुआ》……
हाँ, काफी घना, "लगातार सीखना" भी हमारे लिए सबसे अधिक आम रहने वाले कीवर्ड में से एक बन रहा है। और इसके पीछे एक बार-बार दोहराए जाने वाले निष्कर्ष का संकेत है।
अक्टूबर 2025 में, एंड्रेज कारपाथी ने द्वार्केश पटेल के पॉडकास्ट में कहा: वर्तमान बड़े मॉडल "लगातार सीखने की क्षमता नहीं रखते। आप उन्हें कुछ बता सकते हैं, लेकिन आप उम्मीद नहीं कर सकते कि वे इसे याद रखेंगे", और उनका मानना है कि इन ज्ञानात्मक कमियों को पूरा करने में लगभग दस साल लगेंगे। दो महीने बाद, उन्होंने अपनी वार्षिक समीक्षा में इस कथन को एक बड़े संदर्भ में रखा: 2025 में मॉडल क्षमताओं में छलांग मुख्य रूप से सत्यापित पुरस्कार रिइनफोर्समेंट लर्निंग (RLVR) से आई, लेकिन LLM टेक स्टैक में, स्मृति, बहुमॉडल संवेदन, लगातार सीखना और कंप्यूटर का संचालन करने की क्षमता अभी भी स्पष्ट कमजोरियाँ हैं, "हमारे पास प्रोटोटाइप हैं, लेकिन अभी तक कोई ऐसा एजेंट नहीं है जिसे हम सहकर्मी के रूप में इस्तेमाल कर सकें।"
निरंतर अध्ययन (Continual Learning, जिसे जीवनभर का अध्ययन/Lifelong Learning भी कहा जाता है) इसलिए पिछले वर्ष के सबसे लोकप्रिय अवधारणाओं में से एक बन गया।
इसका अर्थ है कि मॉडल को डिप्लॉय करने के बाद भी, यह नए कार्यों, नए ज्ञान और नए अनुभवों से लगातार सीख सके और पहले सीखी गई चीजों को न भूले।
यह बात सुनने में स्वाभाविक लगती है, लेकिन इसे करना बहुत कठिन है, इतना कठिन कि यह "AI सहयोगी" तक पहुँचने के रास्ते पर सबसे कठिन बाधा बन जाती है। और ऊपर दी गई यह श्रृंखला समाचार यह भी दर्शाती है कि यह रास्ता अब केवल एक दिशा नहीं है, बल्कि कई अलग-अलग मार्ग एक साथ आगे बढ़ रहे हैं।
इस साल, शैक्षणिक और औद्योगिक समुदायों ने मॉडल को "उपयोग के साथ सीखने" के लिए कई अलग-अलग तकनीकी दिशाएँ अपनाई हैं। कुछ ने मॉडल के बाहर स्मृति जोड़ी, कुछ ने वजन को लगातार अपडेट किया, कुछ ने सीधे पूर्व-प्रशिक्षण को पुनः शुरू किया, और कुछ नवीनतम दृष्टिकोणों ने "सीखने" की अवधारणा को ही पुनः परिभाषित करने का प्रयास किया है। यह लेख इन सभी दिशाओं को एक-एक करके स्पष्ट करने का प्रयास करता है, और प्रत्येक रास्ते पर क्या जुआ लगाया जा रहा है और कहाँ अटका हुआ है, यह समझाता है।
सबसे पहले स्पष्ट कर दें: कठिन बात 'सीखना' नहीं, 'याद रखना' है
सीखने की मुख्य बाधा का एक विशिष्ट नाम है: विनाशकारी भूल (catastrophic forgetting)। न्यूरल नेटवर्क का ज्ञान अरबों वजन में संग्रहीत होता है, जब आप नए डेटा का उपयोग करके मॉडल को सूक्ष्म समायोजित करते हैं और इन वजनों को अपडेट करते हैं, तो मॉडल नए कार्य सीखते समय अक्सर पुरानी क्षमताओं को संभालने वाले पैरामीटर को ओवरराइट कर देता है, जिससे पहले से अच्छी तरह से प्रदर्शन करने वाले कार्यों में प्रदर्शन में तेजी से कमी आ जाती है।
कैटास्ट्रोफिक भूल का चित्रण। जब एक कृत्रिम गहरी तंत्रिका नेटवर्क क्रमिक रूप से दो कार्यों पर प्रशिक्षित किया जाता है, तो यह दूसरे कार्य के प्रशिक्षण के दौरान पहले कार्य को तेजी से और पूरी तरह से भूल जाता है।
इस घटना का छोटे मॉडल के समय में बहुत अध्ययन किया गया था, लेकिन LLM पर यह नए समस्याओं का कारण बन गया। TRACE, जो LLM के लगातार सीखने का विशेष रूप से मूल्यांकन करने वाला बेंचमार्क है, ने पाया कि एक पहले से अलाइन्ड मॉडल पर लगातार फाइन-ट्यूनिंग करने से न केवल यह पुराने कार्यों को भूल जाता है, बल्कि इसकी सामान्य क्षमताओं और निर्देशों का पालन करने की क्षमता भी प्रभावित होती है। दूसरे शब्दों में, आप मॉडल को एक नया काम सिखाना चाहते हैं, लेकिन इसकी कीमत यह हो सकती है कि यह समग्र रूप से कम समझदार हो जाए और अधिक अनुपयुक्त हो जाए।
चूंकि सीधे वजन बदलने का जोखिम इतना अधिक है, 'निरंतर अध्ययन' ने कई प्रवाहों में विभाजित हो गया है। उनका मूल विवाद वास्तव में 'वजन बदलें या नहीं' और 'नए ज्ञान कहाँ संग्रहित करें' इन दो प्रश्नों पर अलग-अलग समझौते करने पर है।
मेमोरी को मॉडल के बाहर लटकाएं
सबसे सीधा और सबसे त्वरित दृष्टिकोण यह है: मॉडल वेट्स को बिल्कुल न बदलें, बल्कि नए ज्ञान को मॉडल के बाहर एक डेटाबेस में सहेजें और जब आवश्यकता हो, तो उसे संदर्भ में पुनः प्राप्त करें। यह दृष्टिकोण RAG (रिट्रीवल-एन्हांस्ड जनरेशन) से विकसित हुआ है और अब इसने एक विशिष्ट क्षेत्र के रूप में विकास किया है: एजेंट मेमोरी।
प्रतिनिधित्वात्मक कार्य MemGPT है (जिसकी पीछे की कंपनी अब Letta नाम बदल चुकी है)। यह LLM के संदर्भ प्रबंधन की तुलना ऑपरेटिंग सिस्टम के मेमोरी प्रबंधन से करता है, जिसमें सीमित «कार्य संदर्भ» और बड़ा «बाहरी स्टोरेज» अलग किया जाता है, ताकि मॉडल ऑपरेटिंग सिस्टम की तरह मेमोरी को स्केड्यूल करते हुए खुद यह निर्णय ले कि क्या संदर्भ में लाया जाए और क्या आर्काइव में सहेजा जाए।
इस दिशा में, कुछ प्रणालियाँ अलग-अलग बिंदुओं पर ध्यान केंद्रित करती हैं: Mem0 प्रोडक्शन-लेवल और स्केलेबल लॉन्ग-टर्म मेमोरी एक्सेस पर फोकस करता है; Zep रिट्रीवल पर समय-आधारित ज्ञान ग्राफ जोड़ता है, ताकि सेशन-पार टाइमिंग रीजनिंग को हैंडल किया जा सके; A-MEM कार्डबॉक्स नोटेशन (Zettelkasten) को अपनाता है, जहाँ प्रत्येक स्मृति को संरचित टैग दिया जाता है और स्वचालित रूप से संबंधित पुराने एंट्रीज़ से जोड़ा जाता है, जिससे रिट्रीवल संदर्भ के अनुकूल होता है।
करपाथी ने इस दिशा में अपनी निवेश भी की है। उन्होंने बार-बार जोर दिया है कि भविष्य में आवश्यकता होगी 'बड़े हार्ड डिस्क' जैसी स्मृति की नहीं, बल्कि एक संक्षिप्त 'ज्ञानात्मक कोर' (cognitive core, जिसके लिए उनका अनुमान है कि केवल एक या दो B पैरामीटर काफी होंगे) और एक संरचित बाहरी स्मृति की, जो स्वयं को पुनर्निवेशित करेगी।
इस विचार के आधार पर, उन्होंने GitHub पर एक "LLM Wiki" मॉडल प्रकाशित किया: प्रत्येक जांच के लिए RAG का उपयोग करके मूल टेक्स्ट ब्लॉक नहीं ढूंढना, बल्कि एजेंट को सक्रिय रूप से जानकारी को एक निरंतर अपडेट होने वाले, आपस में जुड़े ज्ञान भंडार में संकलित करने के लिए प्रेरित करना, और फिर उसकी जांच करना।
करपाथी के LLM विकी दस्तावेज़ ने लगभग 45,000 स्टार प्राप्त किए हैं और 9,000 से अधिक बार फ़ोर्क किया जा चुका है
लेटा ने इसे "टोकन स्पेस में निरंतर अध्ययन" के रूप में उठाया। उन्होंने बताया कि आज का मानक प्रथा "पहले जोड़ें, फिर सारांश बनाएं" है, अर्थात मूल अनुभव को संदर्भ ओवरफ्लो होने तक जमा किया जाता है, और फिर इसे सारांश में संकुचित किया जाता है; इसके दो दोष हैं: जोड़ने से सभी प्रतिनिधित्व का कार्य निष्कर्षण के समय पर स्थानांतरित हो जाता है, और प्रत्येक फॉरवर्ड प्रोपेगेशन में मूल लॉग को पुनः प्रसंस्कृत करना पड़ता है; और सारांशीकरण हानिकारक और अचानक होता है, महत्वपूर्ण विवरण बिना किसी सूचना के गायब हो जाते हैं। लेटा का अनुमान है कि भविष्य में टोकन स्पेस में सीखी गई स्मृतियाँ, मॉडल वजन से अधिक मूल्यवान होंगी।
इस दृष्टिकोण की ताकत सुरक्षा, नियंत्रण और व्याख्या की क्षमता है; गलती होने पर आप तुरंत हटा सकते हैं। इसकी कमी यह है कि यह मूल रूप से ज्ञान को मॉडल में 'अंतर्निहित' नहीं करता, और हर बार रिट्रीवल और संदर्भ के माध्यम से ही काम करता है; जैसे-जैसे मेमोरी बढ़ती है, रिट्रीवल की सटीकता और लागत बाधा बन जाती हैं।
अपने संदर्भ को स्वयं «गाइडबुक» में विकसित करें
बाहरी मेमोरी से आगे बढ़कर, एक अधिक सूक्ष्म दृष्टिकोण है: वेट्स को नहीं बदलना, लेकिन मॉडल के इनपुट के संदर्भ को लगातार विकसित करना। इसे संदर्भ इंजीनियरिंग (Context Engineering) कहा जाता है।
2025 अक्टूबर में, स्टैनफोर्ड, साम्बानोवा और यूसी बर्कले द्वारा प्रस्तावित ACE (Agentic Context Engineering) इसका प्रतिनिधित्व करता है। यह संदर्भ को एक ऐसी “गाइडबुक” के रूप में मानता है जो लगातार विकसित होती रहती है, जिसे तीन भूमिकाओं द्वारा संभाला जाता है: Generator निष्कर्षण ट्रेक का निर्माण करता है, Reflector सफलता और विफलता से विशिष्ट अनुभव प्राप्त करता है, और Curator इन अनुभवों को संरचित वृद्धिमय अपडेट के रूप में संगठित करके गाइडबुक में मिला देता है।
ACE दो सामान्य समस्याओं को हल करना चाहता है: एक है "संक्षिप्तता प्राथमिकता" (brevity bias): जब LLM को बार-बार संदर्भ को पुनः लिखने के लिए कहा जाता है, तो यह संक्षिप्त करने और क्षेत्रीय विवरणों को छोड़ देने की प्रवृत्ति रखता है; दूसरी है "संदर्भ पतन" (context collapse): बार-बार पुनः लिखने से विवरण धीरे-धीरे खो जाते हैं।
ACE इन दोनों बिंदुओं को विशाल पुनर्लेखन के बजाय डेल्टा अपडेट्स का उपयोग करके बायपास करता है। अनुसंधान पत्र के अनुसार, ACE एजेंट कार्यों में बेसलाइन की तुलना में 10.6% और वित्तीय निष्कर्षण में 8.6% की वृद्धि करता है, जबकि अनुकूलन देरी में लगभग 86.9% की कमी करता है; AppWorld रैंकिंग में, छोटे ओपन-सोर्स मॉडल का उपयोग करके DeepSeek -V3.1 के साथ ACE का उपयोग करने से, औसत स्कोर GPT-4.1 पर आधारित उत्पादन स्तर के बुद्धिमान एजेंट IBM CUGA के बराबर हो जाता है।
ध्यान देने योग्य बात यह है कि ACE यह जोर देता है कि यह बिना लेबल किए निगरानी के काम कर सकता है; यह निष्पादन के दौरान स्वाभाविक रूप से उत्पन्न प्रतिक्रिया संकेतों (जैसे कोड सफलतापूर्वक चलता है या त्रुटि देता है) का उपयोग करके प्रतिबिंब और संगठन को मार्गदर्शन देता है। इससे यह "एजेंट अपने अनुभव से सीखता है" वाली बड़ी कहानी से जुड़ जाता है।
Continued post-training: Adjust weights, but do it wisely
बाहरी स्मृति और संदर्भ इंजीनियरिंग वजन बदलने के जोखिम से बचती है, लेकिन वास्तविक ज्ञान के अंतर्गतीकरण से भी बच जाती है। दूसरे शोधकर्ता मानते हैं कि लंबे समय में, कुछ ज्ञान और कौशल केवल पैरामीटर में लिखे जाने पर ही पर्याप्त होते हैं। यही निरंतर पोस्ट-ट्रेनिंग (Continual Post-training) है, जो मुख्य रूप से निरंतर निर्देश सूक्ष्म-समायोजन, निरंतर प्राथमिकता समन्वय आदि चरणों में विभाजित है।
थिंकिंग मशीन्स के जॉन शुलमैन ने एक स्तरीय दृष्टिकोण प्रस्तुत किया है: उन्होंने सीखने की तुलना मनोविज्ञान में गतिक सीखने, स्थितिगत स्मृति और कार्यात्मक स्मृति से की है, और माना है कि संदर्भ-आधारित सीखना छोटे समय अवधि के सीखने के कार्यों को अच्छी तरह से संभालता है, जबकि पैरामीटर फाइन-ट्यूनिंग (LoRA जैसी विधियों सहित) इसके ऊपर जुड़ती है और विशेष रूप से उन कार्यों के लिए उपयुक्त है जिनमें बड़ी क्षमता की आवश्यकता होती है और जिन्हें वास्तविक रूप से ज्ञान को अवशोषित करना होता है—जब समय की अवधि लंबी हो जाती है, तो संदर्भ-आधारित सीखना पर्याप्त नहीं होता, और उस समय पैरामीटर फाइन-ट्यूनिंग बेहतर काम करती है।
इस रास्ते का सबसे बड़ा दुश्मन अभी भी विनाशकारी भूल है, और हाल के समय में Thinking Machines के Tinker से एक दिलचस्प समाधान आया है।
टिंकर उनका 2025 अक्टूबर में लॉन्च किया गया पहला उत्पाद है, जो LoRA पर आधारित एक फाइन-ट्यूनिंग API है, जो वितरित प्रशिक्षण की जटिलता को अनदेखा कर देता है और केवल forward_backward, optim_step जैसे निम्न स्तरीय प्राइमिटिव्स को एक्सपोज करता है, ताकि शोधकर्ता केवल डेटा और एल्गोरिथम पर ध्यान केंद्रित कर सकें।
लगातार सीखने पर, वे एक ऐसी विधि को प्रमुखता देते हैं जिसे स्व-विद्याप्राप्त सूक्ष्म-समायोजन (SDFT) कहा जाता है: मूल अवलोकन यह है कि सामान्य नियंत्रित सूक्ष्म-समायोजन "ऑफ-पॉलिसी" होता है, जिसमें मॉडल को ऐसे टोकन का अनुकरण करने के लिए मजबूर किया जाता है जिन्हें यह स्वयं कभी नहीं बनाएगा, इसलिए प्रत्येक नए कौशल को सीखने से पुरानी क्षमताएँ कमजोर होती हैं; SDFT मॉडल को अपना ही शिक्षक बनने के लिए प्रोत्साहित करता है, ताकि यह उदाहरणों से नए कौशल सीख सके और पुराने कौशल को न भूल सके। एक क्रिएटिव कंपनी Trajectory ने Tinker को अपने लगातार सीखने के प्लेटफ़ॉर्म की मुख्य बुनियादी ढांचा के रूप में अपना लिया है।
एक बात और, टिंकर लोरा का उपयोग करता है, पूर्ण सूक्ष्म समायोजन नहीं, जिसका एक व्यावहारिक लाभ यह है कि कई सूक्ष्म समायोजन कार्य एक ही कंप्यूटिंग पूल को साझा कर सकते हैं, जिससे लागत वितरित हो जाती है। इसीलिए "निरंतर अध्ययन को सेवा के रूप में" एक व्यवसाय बन रहा है: अक्सर होने वाले मॉडल अपडेट को एक ऑन-डिमांड API के रूप में प्रस्तुत करना, उद्योग की वर्तमान प्रयास की दिशा है।
Re-pretraining and Continuous Pretraining
यदि ट्रेनिंग के बाद का अपडेट मॉडल के "सतही" स्तर पर कार्य करता है, तो निरंतर पूर्व-प्रशिक्षण (Continual Pre-training, CPT) सबसे निचले स्तर पर लौटता है और नए कॉर्पस का उपयोग करके मॉडल को फिर से पूर्व-प्रशिक्षित करता है, ताकि यह नए क्षेत्रों, नई भाषाओं या समय के साथ बदलते ज्ञान वितरण के अनुकूल हो सके। नए और पुराने डेटा को मिलाकर पूरी तरह से पुनः प्रशिक्षित करने की तुलना में, CPT मौजूदा मॉडल पर आधारित होता है और कैलकुलेशन के मामले में कहीं अधिक कुशल होता है।
इसके तीन प्रमुख उपयोग हैं: समय के साथ ज्ञान का विस्थापन, बहुभाषी विस्तार, और बहुक्षेत्रीय अनुकूलन। लेकिन इसकी कीमत भी स्पष्ट है: कई प्रायोगिक अध्ययनों ने दोहराकर दर्शाया है कि निरंतर पूर्व-प्रशिक्षण की गणना लागत अत्यधिक होती है और पहले सीखे गए ज्ञान के लिए विनाशकारी भूल का कारण बनता है। इसलिए, शोधकर्ता LLM स्केल पर भूल के बिना निरंतर पूर्व-प्रशिक्षण के लिए "पुनर्प्रस्तुति मुक्त, कार्य-लेबल मुक्त" विधियों की खोज में लगे हुए हैं।
अधिकांश कंपनियों के लिए, एक अग्रणी मॉडल को शुरू से पुनः प्रशिक्षित करने की लागत अवास्तविक रूप से उच्च होती है, जिससे कारपथी का कथन "बड़े मॉडल को बार-बार पुनः प्रशिक्षित नहीं किया जा सकता" उत्पन्न हुआ। इसलिए, कठोर अर्थों में "पुनः प्रशिक्षण" अधिकांशतः अग्रणी प्रयोगशालाओं के भीतर का विकल्प है, जबकि निरंतर प्री-ट्रेनिंग एक अधिक संभव समझौता है।
अपडेटेड दृष्टिकोण: मॉडल को खुद को संशोधित करना सिखाएं
पिछले चार दिशाओं में, अभी भी "चीटिंग बनाम वजन बदलना" के द्विआधारी ढांचे में घूम रहे हैं। लेकिन पिछले एक वर्ष में उभरी एक नई श्रृंखला कार्य, इस ढांचे से बाहर निकलने का प्रयास कर रही हैं और सीखने को पुनः परिभाषित कर रही हैं।
एक विचार यह है कि मॉडल स्वयं प्रशिक्षण डेटा उत्पन्न करे और स्वयं अपडेट होने का तरीका तय करे।
MIT के SEAL (Self-Adapting Language Models) एक उदाहरण है। एक नए इनपुट के लिए, मॉडल एक “स्व-संपादन” (self-edit) उत्पन्न करता है; यह एक प्राकृतिक भाषा निर्देश होता है जो बताता है कि जानकारी को कैसे पुनर्गठित किया जाए, वजन को अपडेट करने के लिए कौन से हाइपरपैरामीटर का उपयोग किया जाए, और डेटा वृद्धि के लिए कौन से उपकरणों को कॉल किया जाए; फिर मॉडल इसके आधार पर अपने आप को सूक्ष्म समायोजित करता है, जिससे स्थायी वजन अपडेट होते हैं। और “कौन सा स्व-संपादन प्रभावी है” इस मुद्दे को एक बाहरी प्रवर्धन सीखने चक्र द्वारा प्रशिक्षित किया जाता है, जहाँ पुरस्कार संकेत नीचे के कार्यों पर अपडेट किए गए मॉडल के प्रदर्शन होते हैं।
NeurIPS 2025 संस्करण ने यह भी साबित किया कि यह अनुकूलन क्षमता मॉडल के आकार के बढ़ने के साथ बेहतर होती है और रिवॉर्ड लर्निंग का उपयोग करके भूलने की समस्या को कम किया गया है। इसके लेखक एक ऐसे मॉडल की कल्पना करते हैं जो निष्कर्ष निकालते समय स्वयं यह निर्णय ले सके कि "क्या मुझे अभी सीखना चाहिए", और एक-बार की विचार श्रृंखला को स्थायी क्षमता में बदल दे।
NeurIPS 2025 में प्रकाशित Google के नेस्टेड लर्निंग से एक और अधिक आक्रामक दृष्टिकोण आया है। इसका केंद्र एक मॉडल को एक सेट के रूप में पुनः समझना है, जिसमें एक-दूसरे में निहित, बहु-स्तरीय, और प्रत्येक के पास अलग-अलग 'संदर्भ प्रवाह' और अलग-अलग अपडेट आवृत्ति होती हैं—इस दृष्टिकोण में, आर्किटेक्चर और अनुकूलन एल्गोरिथम एक ही चीज के विभिन्न स्तरों के रूप में समेकित हो जाते हैं।
एक संकल्पना सत्यापन के रूप में, उन्होंने एक आत्म-संशोधन आर्किटेक्चर बनाया जिसका नाम Hope है, जो Titans की लंबी अवधि की स्मृति आर्किटेक्चर पर दो विस्तार करता है: असीमित नेस्टेड लर्निंग स्तर और एक "निरंतर स्मृति प्रणाली" (CMS)। सरल शब्दों में, केवल अल्पकालिक/दीर्घकालिक स्मृति के द्विआधारी विभाजन के बजाय, यह समय के सभी पैमानों पर अपडेट होने वाली स्मृति मॉड्यूल की एक पूरी श्रृंखला है।
प्रयोग में, Hope ने मानक Transformer और आधुनिक रिकरेंट मॉडल्स की तुलना में भाषा मॉडलिंग, लंबे संदर्भ तर्क और निरंतर अधिगम कार्यों में सर्वश्रेष्ठ प्रदर्शन किया। दिलचस्प बात यह है कि इस प्रकार की आर्किटेक्चर के लिए बाद के कार्यों ने “नींद” चरण शामिल किया है—जैसे मनुष्य नींद में स्मृति को मजबूत करते हैं, वैसे ही मॉडल एक्टिव सेशन के बीच कैलकुलेशन क्षमता को निकालकर, उपयोगी अमूर्तताओं को अधिक स्थायी पैरामीटर मेमोरी में डिस्टिल करता है।
इससे अधिक अमूर्त रूप से, डेविड सिल्वर और रिचर्ड सटन द्वारा प्रस्तावित "अनुभव का युग" (Era of Experience) कथा है।
उनका निष्कर्ष है: गणित, कोडिंग, विज्ञान जैसे महत्वपूर्ण क्षेत्रों में, मानव डेटा से निकाली जा सकने वाली जानकारी की सीमा लगभग पहुंच चुकी है; आगे बढ़ने के लिए, AI को अपने और अपने पर्यावरण के बीच होने वाली अंतरक्रियाओं से प्राप्त अनुभवों से लगातार सीखना होगा, जिससे एक स्व-प्रदान करने वाला डेटा चक्र बने। उन्होंने 2024 में DeepMind के AlphaProof (जिसने 'औपचारिक सिद्धांत प्रणाली के साथ लगातार अंतरक्रिया' के माध्यम से IMO पदक प्राप्त किया) को इस युग की शुरुआत माना है। यह कथा लगातार सीखने, पुनर्बलन सीखने और एजेंट की स्वतंत्र खोज को एक साथ जोड़ती है, और एक अभी तक हल नहीं हुआ प्रश्न भी छोड़ती है: वे पुरस्कार फ़ंक्शन कौन डिज़ाइन करेंगे, जो मूल संकेतों को उपयोगी मार्गदर्शन में बदलते हैं?
एक और निकटवर्ती दिशा, जिसे आमतौर पर निरंतर अध्ययन से भ्रमित किया जाता है लेकिन इसका लक्ष्य अलग है: ज्ञान संपादन (Knowledge Editing)। ROME, MEMIT जैसे उदाहरणों के साथ, यह विशिष्ट तथ्यों को संग्रहीत करने वाले MLP परतों को स्थानित करके और उन्हें संपादित करके, पूर्ण पुनः प्रशिक्षण के बिना एकल या बैच-स्तर पर तथ्यों को सटीकता से अपडेट करता है। हालाँकि, इसका लक्ष्य निरंतर अध्ययन से अलग है—ज्ञान संपादन का उद्देश्य किसी विशिष्ट तथ्य को सटीकता से ओवरराइट करना है; लगातार, स्थायी संपादन के संदर्भ में, बार-बार हुए पैरामीटर परिवर्तन एक-दूसरे के साथ हस्तक्षेप करते हैं और क्रमिक रूप से 'विषैलेपन' जमा होता है, जिससे मॉडल का पतन हो सकता है, जिसने WISE, AlphaEdit जैसी कई विधियों को जन्म दिया है जो क्रमिक संपादन के लिए विशेष रूप से डिज़ाइन की गई हैं।
अंतिम शब्द
इन दिशाओं को एक साथ देखने पर, आप देख सकते हैं कि वे वास्तव में एक “ज्ञान कहाँ मौजूद है” अक्ष के साथ व्यवस्थित हैं।
सबसे बाहरी भाग में बाहरी स्मृति और कॉन्टेक्स्ट इंजीनियरिंग होती है, जहाँ ज्ञान पूरी तरह से मॉडल के बाहर टोकन स्पेस में मौजूद होता है, जो सुरक्षित और नियंत्रित होता है लेकिन वास्तविक रूप से अंतर्निहित नहीं होता; मध्य में निरंतर पोस्ट-ट्रेनिंग और निरंतर प्री-ट्रेनिंग होती है, जहाँ ज्ञान वेट्स में लिखा जाता है, जिसकी क्षमता की सीमा अधिक होती है लेकिन वह विनाशकारी भूल का सामना करती है; सबसे अंदर, और सबसे अग्रणी, वे नए विचार हैं जो मॉडल को स्वयं को संशोधित और स्वयं को विकसित करने की कोशिश करते हैं, ताकि 'सीखना' नामक क्रिया स्वयं मॉडल की क्षमता का हिस्सा बन जाए।
एक व्यावहारिक दृष्टिकोण यह है कि ये दिशाएँ अधिकांशतः परस्पर विरोधी नहीं हैं, बल्कि स्तरबद्ध रूप से सहयोग करेंगी। शुलमैन का स्तरबद्ध अधिगम दृष्टिकोण और कारपाथी का "ज्ञानात्मक कोर + बाहरी स्मृति" अवधारणा मूलतः एक ही बात कह रहे हैं: छोटी अवधि और परिवर्तनशील जानकारी को संदर्भ और बाहरी स्मृति के लिए छोड़ दें, जबकि लंबी अवधि और गहराई से अधिग्रहित क्षमताओं को पैरामीटर फाइन-ट्यूनिंग के लिए छोड़ दें, जिससे प्रत्येक अपना कार्य करे। ACE अनुपलब्ध डेटा पर कार्य प्रतिक्रिया के माध्यम से विकसित हो सकता है, SEAL आत्म-संपादन को मजबूतीकरण सीखने से अनुकूलित करता है, जो एक सामान्य प्रवृत्ति की ओर संकेत करता है: भविष्य का निरंतर अधिगम, मॉडल को "क्या सीखना है और कैसे सीखना है" का नेतृत्व करने के लिए स्वयं पर छोड़ने का होगा।
तो करपाथी के उस “अभी और दस साल लगेंगे” के आकलन पर वापस आते हैं, लगातार सीखने की समस्या क्या हल हो गई? जवाब शायद यही है—अभी तक नहीं, लेकिन अब यह पूरी तरह से खाली भी नहीं है। कैटास्ट्रोफिक फोरगेटिंग यह मूल बाधा अभी तक पूरी तरह से हल नहीं हुई है; SDFT, नेस्टेड लर्निंग जैसी विधियाँ इसे “दूर करने” के बजाय केवल “कम कर रही हैं”। क्या केवल बेहतर कंटेक्स्ट मैनेजमेंट और फाइन-ट्यूनिंग से ही लगातार सीखने की समस्या हल हो सकती है, या क्या हमें पूरी तरह से नई अवधारणाओं की आवश्यकता है? यह अधिक मौलिक प्रश्न, शुलमैन स्वयं भी मानते हैं, कि इसके बारे में अभी तक कोई निश्चित निष्कर्ष नहीं है।
यह निश्चित है कि 2025 से 2026 के बीच के समय के दौरान, लगातार सीखना एक बार-बार उल्लेख किए जाने वाले "अभावी क्षमता" से बदलकर एक ऐसा सक्रिय क्षेत्र बन गया है जिसमें कई मार्ग बन रहे हैं और कुछ स्टार्टअप्स पहले से ही उत्पाद विकसित करने में लगे हुए हैं। जो मार्ग 'AI सहयोगी' को प्रोटोटाइप से वास्तविकता में बदलने में पहले आगे निकलेगा, उस पर नजर बनाए रखना महत्वपूर्ण है।
रेफरेंस लिंक
https://www.lesswrong.com/posts/qBsj6HswdmP6ahaGB/andrej-karpathy-on-llm-cognitive-deficits
https://karpathy.bearblog.dev/year-in-review-2025/
https://www.letta.com/blog/continual-learning/
https://arxiv.org/abs/2510.04618
https://arxiv.org/abs/2402.01364
https://thinkingmachines.ai/tinker/
https://arxiv.org/pdf/2604.05096
https://arxiv.org/pdf/2606.03979
यह लेख वेचेन ग्रुप "मशीन इंटेलिजेंस" (ID: almosthuman2014) से आया है, लेखक: निरंतर सीखती मशीन इंटेलिजेंस, संपादक: Panda