अग्रणी एआई शोधकर्ता एआई-संचालित एआई विकास का अध्ययन कर रहे हैं

कैसे एआई को अपने लिए अगली पीढ़ी के एआई का विकास करने के लिए बनाएं

लेखक, स्रोत: वेची ग्रुप "APPSO"

अगर एक चीनी AI इंजीनियर के पास अच्छी तकनीकी क्षमता है, उज्ज्वल रिज्यूमे है, और वह शीर्ष स्तरीय विश्वविद्यालय जैसे पेकिंग विश्वविद्यालय से स्नातक है, तो उसके पास सब कुछ संभव है, सिवाय नौकरी न करने के।

स्वास्थ्य और जीवन को "सबसे महत्वपूर्ण समन्वय कार्य" मानकर Thinking Machines Lab से निकली वें ली, अब वापस OpenAI में काम करने की खबर है। कंपनी के प्रवक्ता के अनुसार, वह एक टीम का नेतृत्व करेंगी जो आंतरिक अनुसंधान को तेज करेगी और OpenAI के "आवर्ती स्व-सुधार" के अन्वेषण में शामिल होगी, जिसमें AI अपने अगली पीढ़ी के मॉडल को प्रशिक्षित और सुधारने में भाग लेता है।

इसी तरह, उनके पूर्व सहकर्मी और पूर्व OpenAI के केंद्रीय व्यक्ति Ilya Sutskever द्वारा स्थापित Safe Superintelligence भी अंततः अपने गुप्त अनुसंधान से एक दरार दिखाई देने लगी। न्यूमाडिया ने दुर्लभ आंतरिक अनुसंधान तक पहुंच प्राप्त करने के बाद SSI में निवेश करने का फैसला किया और अपनी क्षमता को नई पीढ़ी के Vera Rubin सिस्टम के साथ एक दशमलव शक्ति तक बढ़ाया।

निविडा का मानना है कि SSI पिछले दो वर्षों से मौजूदा बड़े मॉडल के रास्ते से अलग एक नई शोध दिशा को आगे बढ़ा रहा है। इसके बारे में इल्या ने कोई अतिरिक्त जानकारी नहीं दी, बस एक वाक्य कहा: "हमारे पास स्केल करने लायक शोध है।"

जिज्ञासु भीड़ और भी उत्साहित हो गई, सोशल मीडिया पर एक खुले सुराग का विपरीत विश्लेषण प्रकट हुआ, जिसमें अनुमान लगाया गया कि SSI अगले बड़े प्री-ट्रेनिंग फॉर्मूला की तलाश में नहीं है, बल्कि एक नए अनुक्रम और विकास के तरीके की तलाश में है: ऐसा कि मॉडल केवल प्रशिक्षण के बाद स्थिर न रहे, बल्कि प्रतिक्रिया, प्रयोग और निरंतर सीखने के माध्यम से लगातार अधिक मजबूत अगली पीढ़ी को जन्म दे।

यह निर्णय SSI द्वारा पुष्टि नहीं किया गया है, लेकिन यह इल्या के पिछले दावों के साथ अत्यधिक संगत है। उन्होंने पहले कई बार कहा है कि केवल अधिक डेटा और कंप्यूटिंग पावर पर निर्भर करने वाली स्केलिंग की अवधि सीमा के पास पहुँच रही है, और AI को इंसानों की तरह, कम अनुभवों से गहरी समझ विकसित करनी और पर्यावरण के साथ बातचीत में आगे बढ़ना सीखना होगा।

इन पहले से ही बहुत सफल शीर्ष AI पेशेवरों को लगता है कि वे सभी एक ही दिशा की ओर देख रहे हैं: AI को अपने लिए अगली पीढ़ी का AI विकसित करने के लिए कैसे बनाया जाए।

रिकर्सिव सेल्फ-इम्प्रूवमेंट का उल्लेख करते समय, एक विज्ञान कथा दृश्य की कल्पना करना आसान है: AI अचानक अपनी कमियों को समझता है, सीधे न्यूरल नेटवर्क वेट्स को संशोधित करता है, और जागने पर पिछले दिन की तुलना में दस गुना अधिक बुद्धिमान हो जाता है।

वास्तविक दुनिया में शुरुआत काफी साधारण होती है। AI अनुसंधान एक निरंतर चक्रीय उत्पादन लाइन है: शोधकर्ता पेपर और प्रयोग रिकॉर्ड पढ़ते हैं, एक परिकल्पना बनाते हैं, प्रशिक्षण कोड में संशोधन करते हैं, प्रयोग चलाने के लिए पंक्ति में खड़े होते हैं, परिणाम आने का इंतजार करते हैं, मापदंडों की तुलना करते हैं, विफलता का कारण ढूंढते हैं, और फिर अगला संस्करण डिज़ाइन करते हैं।

आज के बड़े मॉडल पहले से ही इसके कई चरणों में भाग ले सकते हैं; वे कोडबेस पढ़ सकते हैं, पेपर को दोहरा सकते हैं, प्रयोगात्मक स्क्रिप्ट लिख सकते हैं, कंप्यूटिंग पावर का उपयोग करके परीक्षण चला सकते हैं, दर्जनों परिणामों को संगठित कर सकते हैं, विश्लेषण कर सकते हैं कि कौन सा पैरामीटर समस्या पैदा कर रहा है, और फिर कोड में सुधार कर सकते हैं। पिछले एक टीम द्वारा कई दिनों में पूरा किया जाने वाला कार्य, भविष्य में कई बुद्धिमान एजेंटों द्वारा समानांतर रूप से दर्जनों मार्गों का प्रयास किया जा सकता है, और फिर सबसे वादा करने वाले परिणामों को मानवीय निर्णय के लिए सौंपा जा सकता है।

जुआं ली ने जुलाई के शुरू में पोस्ट की गई लंबी लेख “Harness Engineering for Self-Improvement” में, लगभग पहले से ही उसके द्वारा जिम्मेदारी संभाली जाने वाली शोध दिशा को लिख दिया था। उनका मानना है कि हाल की सबसे व्यावहारिक स्व-सुधार की राह, मॉडल द्वारा सीधे मस्तिष्क को पुनः लिखना नहीं, बल्कि AI को पहले अपने कार्य परिवेश को बदलना सिखाना है: असफलता के रिकॉर्ड का स्वचालित विश्लेषण करना, संदर्भ प्रबंधन, उपकरणों के उपयोग और कार्य प्रवाह को समायोजित करना, और फिर नए प्रयोग परिणामों के माध्यम से इस प्रणाली को लगातार सुधारना। अधिक परिपक्व harness, स्वचालित शोध को आगे बढ़ा सकता है, और मजबूत मॉडल, harness को फिर से सरल बना सकते हैं, जिससे दोनों के बीच एक चक्र बनता है।

इससे वांग ली और इल्या के दोनों रास्तों के बीच एक दिलचस्प समानता भी दिखाई देती है: OpenAI वर्तमान अनुसंधान प्रक्रियाओं को धीरे-धीरे AI के हवाले कर रहा है, ताकि यह पहले एक कार्यरत अनुसंधान इंजीनियर के रूप में काम कर सके; SSI शायद एक नए सीखने के प्रतिरूप को और अधिक मूल स्तर पर खोजने की कोशिश कर रहा है, ताकि मॉडल स्वयं लगातार पुनर्निर्माण और विकास की क्षमता रख सके।

AI को शुरू से ही अपने वेट्स को सीधे संशोधित करने की क्षमता की आवश्यकता नहीं है। जब तक यह प्रशिक्षण प्रक्रिया को सुधार सकता है, डेटा छांट सकता है, मूल्यांकन डिज़ाइन कर सकता है, या मॉडल के बाहर के harness को अनुकूलित कर सकता है, तब तक यह अपने उत्तराधिकारी के निर्माण में भाग ले रहा है।

पहला इंजीनियरिंग साइ클 के अंदर की ओर जाता है, दूसरा मॉडल मैकेनिज्म के बाहर की ओर जाता है, और दोनों का लक्ष्य एक AI पीढ़ी से अगली AI पीढ़ी तक की दूरी को कम करना है।

जब बड़े बुल्स इस रास्ते पर अपनी निवेश को तेज करना चाह रहे थे, तो उद्योग के भीतर एक अन्य आवाज़ उठी।

इस सप्ताह, OpenAI, Anthropic, Google, Meta आदि कंपनियों से अधिक ने 1100 पेशेवरों ने एक बयान पर हस्ताक्षर किए, जिसमें 'ऑटोमेटेड AI रिसर्च' की गति को नियंत्रित करने के लिए तकनीकी और समन्वय उपकरणों की शुरुआत की मांग की गई है। इसमें OpenAI के मुख्य वैज्ञानिक Jakub Pachocki, Anthropic के सह-संस्थापक Jack Clark और Jared Kaplan जैसे उच्च स्तरीय शोधकर्ता शामिल हैं—और, Ilya खुद।

पिटिशन ने एआई अनुसंधान बंद करने का आह्वान नहीं किया है, और न ही यह स्व-सुधार के संभावित मूल्य को नकारता है। इसकी चिंता है कि एआई जब एआई अनुसंधान को महत्वपूर्ण रूप से तेज करना शुरू कर दे, तो क्षमता की वृद्धि मानवीय समझ और प्रणाली पर नियंत्रण की गति से तेज हो सकती है।

ध्यान से सोचें, यह「प्रतीत होने वाला विरोधाभास」एक ही समूह, यहाँ तक कि एक ही व्यक्ति से आता है। एक ही समय पर, वे दोनों निर्णय ले सकते हैं: वे विश्वास करते हैं कि स्वचालित अनुसंधान AI की अगली क्रांति की कुंजी हो सकता है, और वे यह भी विश्वास करते हैं कि जब यह प्रतिक्रिया चक्र वास्तव में काम करना शुरू कर दे, तो उद्योग को आवश्यकता पड़ने पर गति कम करने की क्षमता होनी चाहिए।

क्योंकि एक बार यह चक्र बन जाए, तो यह पिछले समय में एक अधिक शक्तिशाली मॉडल लॉन्च करने से अलग हो जाता है। पिछली प्रगति की गति अंततः मानव अनुसंधान टीम पर निर्भर करती थी। मनुष्यों को प्रश्न पूछने, प्रयोगों की व्यवस्था करने और परिणामों का आकलन करना पड़ता था, और बजट, मानव संसाधन और संगठनात्मक प्रक्रियाओं के कारण प्रगति रुक जाती थी।

ऑटोमेटेड AI रिसर्च का लक्ष्य यही है कि इन बॉटलनेक्स को धीरे-धीरे हटाया जाए। जितना मॉडल मजबूत होगा, उतना ही टीम को अगली पीढ़ी के मॉडल को तेजी से बनाने में मदद मिलेगी; अगली पीढ़ी का मॉडल फिर बेहतर रिसर्चर बनेगा और अगले रिसर्च साइकिल को और अधिक संक्षिप्त करेगा।

इसलिए, जितना विरोधाभासी प्रतीत होने वाला दोनों बल, वास्तव में एक ही पूर्वधारणा साझा करते हैं: स्वचालित AI अनुसंधान दूर की कल्पना से एक विशिष्ट इंजीनियरिंग लक्ष्य बन रहा है।

वॉन ने OpenAI में वापसी की, जिससे स्पष्ट होता है कि आवर्ती स्व-सुधार अब विशेषज्ञ संगठनों और जिम्मेदारों के साथ शुरू हो चुका है; न्यूडिया ने SSI के गुप्त अनुसंधान को देखने के बाद विशाल निवेश और नवीनतम कैलकुलेशन क्षमता लगाने की इच्छा जताई, जिससे स्पष्ट होता है कि नई सीखने की राह कम से कम उस चरण पर पहुंच चुकी है जहां इसकी पुष्टि के लिए विस्तार करना उचित है।

आवेदनकर्ता ब्रेक तैयार करने की मांग कर रहे हैं, न कि इसलिए कि वे मानते हैं कि यह रास्ता सफल नहीं होगा, बल्कि इसलिए कि वे अब गंभीरता से विचार करने लगे हैं कि जब यह सफल हो जाएगा तो क्या होगा।

वास्तविक विभाजन AI के बारे में नहीं है कि इसे मनुष्यों के अनुसंधान में मदद करनी चाहिए या नहीं। कोड उत्पादन, पेपर खोज और प्रयोग स्वचालन पहले से ही प्रयोगशालाओं में शामिल हो चुके हैं। बल्कि यह है कि जब AI एक अनुसंधानकर्ता की दक्षता बढ़ाने वाले उपकरण से धीरे-धीरे ऐसी प्रणाली में बदल जाती है जो स्वयं सुझाव प्रस्तुत कर सकती है, प्रयोग चला सकती है, परिणामों का मूल्यांकन कर सकती है और अगले चक्र की प्रक्रिया में सुधार कर सकती है, तो मनुष्य को किन-किन बिंदुओं पर निर्णय लेने का अधिकार रखना चाहिए।

इसका अर्थ है कि कई ऐसे प्रश्न हैं जिनकी चर्चा की जानी चाहिए: इसके अनुकूलन के लक्ष्य को कौन तय करेगा? कौन निर्णय लेगा कि क्या कोई ऐसा संशोधन जो प्रदर्शन स्कोर में सुधार लाता है, सुरक्षा सीमाओं को नुकसान पहुंचा रहा है? जब कई प्रयोगशालाएँ प्रतिस्पर्धा में हों, तो कौन सी कंपनी अपने एकल रूप में एक प्रभावी इटरेशन को रोकने के लिए तैयार होगी? और यदि मॉडल के विकास चक्र की अवधि वास्तव में एक वर्ष से घटकर कुछ महीनों या सप्ताह हो जाती है, तो क्या बाहरी मूल्यांकन और आंतरिक सुरक्षा टीमें इसके साथ बराबरी कर पाएंगी?

AI कंपनियाँ अब केवल ब्रेकआउट मॉडल बनाने के लिए ही प्रतिस्पर्धा नहीं कर रही हैं, वे अधिक शक्तिशाली मॉडल बनाने के लिए एक निरंतर अनुसंधान प्रणाली के लिए प्रतिस्पर्धा कर रही हैं।

एक ओर, इल्या और वें ली जैसे शीर्ष शोधकर्ता हैं, जो AI को अपने विकास में शामिल करने के लिए नए अनुक्रमण ढूंढना चाहते हैं; दूसरी ओर, इसी क्षेत्र के हजारों शोधकर्ता एक धीमा प्रक्रिया की तैयारी की मांग करते हैं। इन दोनों स्थितियों के बीच, गठबंधन बार-बार बदलते रहते हैं, और मुख्य रूप से सभी का मुख्य सामान्य सवाल है: जब शोध उपकरण स्वयं शोध को तेज करने लगें, तो कौन तय करेगा कि अगली पीढ़ी का AI कब आना चाहिए?