OpenAI जल्द ही नया मॉडल "Astra" लॉन्च करने जा रहा है, जो AI शोध समुदाय में व्यापक ध्यान और विवाद का विषय बन गया है—इसकी प्रदर्शन क्षमता GPT-4 के बाद सबसे बड़ी क्रांति ला सकती है, लेकिन इसकी पीछे की नई निष्कर्षण तकनीक के कारण AI सुरक्षा निगरानी क्षमता में कमी की चिंता उठी है।लेखक, स्रोत: The Information
टेक मीडिया The Information के अनुसार, 2 सितंबर को, एस्ट्रा ने एक नवीन प्रौद्योगिकी का समावेश किया है, जिसका केंद्र एक मॉडल की जटिल समस्याओं को "सोचने" की सीमा को तोड़ना है। कुछ शोधकर्ता मानते हैं कि एस्ट्रा की कोडिंग और कंप्यूटर उपयोग क्षमता में वृद्धि, OpenAI द्वारा 2023 में GPT-4 लॉन्च करने के समय देखी गई प्रदर्शन की छलांग के समान हो सकती है, जो पिछले गर्मियों में GPT-5 के लॉन्च से कहीं अधिक है। यह पूरे उद्योग के लिए एक सकारात्मक संकेत है, जो AI उत्पादकता में वृद्धि पर निर्भर करता है ताकि डेटासेंटर के विशाल निवेश को समर्थन मिल सके।
हालांकि, यह तकनीकी क्रांति अनदेखी नहीं की जा सकने वाले खतरों को भी उत्पन्न करती है। नई तकनीक मॉडल को अपूर्ण "विचार श्रृंखला" के साथ गहन तर्क करने की अनुमति देती है, जिसका अर्थ है कि शोधकर्ता पिछले समय की तरह मॉडल के तर्क प्रक्रिया को प्रभावी ढंग से निगरानी नहीं कर पाएंगे, जिससे मौजूदा सुरक्षा समीक्षा प्रणालियाँ कमजोर हो जाएंगी। वर्तमान में, OpenAI Astra की विचार श्रृंखला को दृश्यमान रखने के लिए कदम उठा रहा है, लेकिन उद्योग में इस संतुलन की दीर्घकालिक दिशा के बारे में अभी भी मतभेद हैं।
प्रदर्शन में भेद: नई निष्कर्षण तकनीक GPT-4 स्तर की छलांग को पुनः प्राप्त कर सकती है, जो Astra की मूलभूत तकनीकी उपलब्धि और "रिकरेंट डेप्थ" और "लूप ट्रांसफॉर्मर्स" जैसी अवधारणाओं से संबंधित है।
द इनफॉर्मेशन के अनुसार, यह तकनीक समस्या को मॉडल के गणितीय "स्तरों" में बार-बार पास करके और उत्तर में अगला शब्द उत्पन्न करके काम करती है, जिससे मॉडल अपने आकार में काफी वृद्धि किए बिना बहुत बड़े मॉडल के समान तर्क क्षमता प्रदर्शित कर सकता है।
कुछ शोधकर्ता मानते हैं कि एस्ट्रा की बेहतर कोडिंग और कंप्यूटर उपयोग क्षमता के कारण, इसके प्रदर्शन में वृद्धि 2023 में GPT-4 के लॉन्च के समय की भव्य प्रगति के समान हो सकती है, जो पिछले ग्रीष्मकाल में GPT-5 के लॉन्च के समय देखी गई अपेक्षाकृत स्थिर बाजार प्रतिक्रिया से कहीं अधिक है।
यह प्रगति पूरी AI श्रृंखला के लिए महत्वपूर्ण है। वर्तमान में वैश्विक डेटा केंद्रों के विशाल निर्माण का नींव वाला तर्क यह है कि AI क्षमताओं में निरंतर वृद्धि से उत्पादकता में वृद्धि होगी, जिससे अधिक व्यावसायिक लाभ प्राप्त होगा। यदि Astra का प्रदर्शन अपेक्षित स्तर पर पहुँचता है, तो यह निवेश तर्क को मजबूत समर्थन प्रदान करेगा।
ध्यान दें कि यह तकनीक नया अवधारणा नहीं है। AI शोध के प्रारंभिक व्यक्ति ज्यूर्गेन श्मिडहूबर ने सोशल मीडिया प्लेटफॉर्म X पर बताया कि "रिकर्सिव डीपनिंग" का मूल विचार वास्तव में उनकी 2015 की पत्रिका, "On Learning to Think" (arXiv:1511.09249) में पहले से ही मौजूद था।
उन्होंने कहा कि इस पेपर में नियंत्रण नेटवर्क C मूल रूप से एक प्रॉम्प्ट इंजीनियर है, जो स्वतंत्र न्यूरल वर्ल्ड मॉडल्स को क्वेरी करने के माध्यम से अमूर्त तर्क करना सीखता है, और उत्पन्न प्रॉम्प्ट और उत्तर आंतरिक रूप से उत्पन्न सदिश अनुक्रम होते हैं, जिन्हें प्राकृतिक भाषा में प्रस्तुत करने की आवश्यकता नहीं होती।
सुरक्षा जोखिम: चिंतन श्रृंखला मॉनिटरिंग मैकेनिज्म को चुनौती का सामना करना पड़ रहा है; नई तकनीकें प्रदर्शन में सुधार के साथ-साथ मौजूदा AI सुरक्षा मॉनिटरिंग ढांचे के लिए संभावित प्रभाव उत्पन्न कर रही हैं।
रिपोर्ट के अनुसार, वर्तमान में, प्रमुख AI मॉडल जटिल समस्याओं को सुलझाते समय, अपनी तर्क प्रक्रिया को टेक्स्ट के रूप में आउटपुट करते हैं, जिसे "थिंकिंग चेन" (chain of thought) कहा जाता है। यह तंत्र न केवल मॉडल की व्याख्या क्षमता को बढ़ाता है, बल्कि शोधकर्ताओं के लिए मॉडल के व्यवहार को निगरानी करने और असामान्य कार्रवाईयों से बचने का एक महत्वपूर्ण साधन भी है।
द इनफॉर्मेशन के अनुसार, कोग्निटिव चेन मॉनिटरिंग, जो OpenAI द्वारा इस साल जुलाई में Hugging Face हैकिंग घटना के बाद समान सुरक्षा दुर्घटनाओं को दोहराने से रोकने के लिए प्रस्तावित मुख्य समाधानों में से एक है।
हालांकि, एस्ट्रा द्वारा अपनाई गई नई निष्कर्ष तकनीक, मॉडल की गहराई में "सोचने" के दौरान निष्कर्ष चरणों को पूरी तरह से आउटपुट नहीं करती है, बल्कि आंतरिक रूप से "चुपचाप" गणना पूरा करती है। इसका अर्थ है कि जितना अधिक मॉडल इस नई तकनीक पर निर्भर करता है, उतना ही उसकी निष्कर्ष प्रक्रिया बाहरी निगरानीकर्ताओं के लिए कम पारदर्शी होती है।
इसके लिए, OpenAI वर्तमान में संतुलन स्थापित करने के उपाय कर रहा है। कंपनी मॉडल को इस बात की दिशा में निर्देशित कर रही है कि गणना स्तर पर प्रश्नों के चक्रों की संख्या कम की जाए, ताकि Astra की सोच की श्रृंखला अभी भी किसी न किसी स्तर पर दृश्यमान बनी रहे—जितने कम चक्र, उतना कम मॉडल का “चुपचाप सोचने” का स्थान।
बड़े प्रयोगशालाएं पहले ही इस पर काम कर रही हैं, और इस तकनीकी प्रवृत्ति के लंबे समय तक के प्रभाव को समझने के लिए अभी भी एक समाधान की आवश्यकता है। The Information की रिपोर्ट के अनुसार, उपरोक्त नवीन निष्कर्षण तकनीक मुख्य AI प्रयोगशालाओं के भीतर चर्चा का केंद्र बन गई है, और Anthropic, Google जैसे संगठनों द्वारा समान तकनीकी दिशा को अपनाने की संभावना को नज़रअंदाज़ नहीं किया जा सकता।
कई शोधकर्ताओं ने बताया है कि चिंतन श्रृंखला का निगरानी करना AI व्यवहार निगरानी का अंतिम समाधान नहीं होगा। मॉडल क्षमताओं के लगातार विकास के साथ, मॉडल द्वारा चिंतन प्रक्रिया को पाठ के रूप में आउटपुट करने की विशेषता, बहुत अधिकतर वर्तमान प्रशिक्षण तरीकों का एक उपउत्पाद है।
जैसे-जैसे मॉडल डेवलपर्स नए अनुकूलन दिशाओं और आर्किटेक्चर डिज़ाइन की खोज करते हैं, मॉडल द्वारा स्वयं विचार श्रृंखला का उत्पादन करने की प्रवृत्ति धीरे-धीरे कम हो सकती है, और उस समय शोधकर्ताओं को नए निगरानी तरीके विकसित करने की आवश्यकता होगी।
रिपोर्ट के अनुसार, वर्तमान मुख्य समस्या यह है: प्रदर्शन की प्रतिस्पर्धा में बढ़ते दबाव के तहत, क्या सभी AI डेवलपर्स मजबूत निष्कर्षण क्षमता के लिए वर्तमान सुरक्षा उपायों को जानबूझकर छोड़ देंगे? इस प्रश्न का उत्तर, अगले चरण के AI सुरक्षा शासन की दिशा निर्धारित करेगा।