OpenAI ने Astra (GPT-6) की क्षमताएँ लॉन्च कीं, जिसमें ज़हेजियांग और टोंगजी के एल्मनी विकास में शामिल हैं

बिल्कुल अभी, OpenAI ने अगली पीढ़ी के मॉडल Astra (प्रसिद्ध GPT-6) के लिए प्रचार को बढ़ाया:

आधिकारिक रूप से एक तकनीकी लंबा लेख जारी किया गया, जिसमें पहली बार एस्ट्रा की क्षमताओं का खुलासा किया गया;

इसके तुरंत बाद, ऑटमैन ने स्वयं एक छोटा लेख लिखकर बताया कि एस्ट्रा क्यों अभी तक लॉन्च नहीं हुआ है;

इसके बाद, दो चीनी शोधकर्ताओं ने क्रमिक रूप से बयान दिया और पहले कभी अनोखे आंतरिक परीक्षण परिणामों को एक-हाथ के विवरण के साथ प्रकट किया।

केवल कुछ घंटों में, सभी संकेत एक ही दिशा की ओर इशारा कर रहे हैं:

OpenAI का अगली पीढ़ी का फ्लैगशिप मॉडल, अब तैयार है।

ऑटोमन ने छोटे निबंध में बताया कि एस्ट्रा पहले ही प्रशिक्षण पूरा कर चुका है, और इसका जल्दी जारी न होना मॉडल कमजोर होने के कारण नहीं है।

विपरीत रूप से, इसका कारण यह है कि एस्ट्रा इतना मजबूत हो चुका है कि कंपनी को स्वयं ब्रेक लगाना पड़ा।

ऑटोमन ने इस अनुभव को एक निरंतर तनाव के रूप में वर्णित किया:

एस्ट्रा द्वारा लाए गए क्षमता वृद्धि के साथ-साथ इन क्षमताओं के परिणामों को कोई भी पूरी तरह से पूर्वानुमान नहीं लगा सकता, इस चिंता के कारण उत्साहित हैं।

इसलिए पिछली पूरी गर्मियों में, OpenAI ने लगभग पूरा समय Astra को सुरक्षा देने, अनुकूलित करने और सुरक्षा उपाय जोड़ने में बिताया।

उन्होंने यह भी कहा कि एस्ट्रा के बाद के मॉडल्स को आवश्यकता पड़ने पर सुरक्षा और अनुरूपता अनुसंधान के लिए समय छोड़ने के लिए सक्रिय रूप से गति कम करनी चाहिए।

?? अस्ट्रा वास्तव में कितना मजबूत है? ओपनएआई को फिलहाल जारी करने का क्या आधार है?

इस जनता के लिए प्रकाशित तकनीकी ब्लॉग पोस्ट हमें एक देखने का खिड़की प्रदान कर सकता है।

GPT-5.6 Sol से अधिक कुशल वल्गर पहचान क्षमता, आंतरिक परीक्षण में पूर्ण अंक प्राप्त

आधिकारिक रूप से, एस्ट्रा को इस बार इसलिए रिलीज़ किया गया क्योंकि यह "साइबर-क्रिटिकल" क्षमता सीमा को प्राप्त कर चुका है।

यह OpenAI का पहला मॉडल है जिसे इस श्रेणी में आधिकारिक रूप से शामिल किया गया है।

"क्रिटिकल लेवल" का अर्थ है कि एस्ट्रा को संबंधित उपकरणों और वातावरण के अधिकार प्राप्त होने के बाद, वह स्वयं अज्ञात दरारों की खोज कर सकती है, उनके उपयोग के तरीके विकसित कर सकती है, और विशेष रूप से मजबूत किए गए सिस्टम पर हमला कर सकती है, बिना मानव द्वारा एक-एक करके निर्देश दिए जाने के।

सबसे स्पष्ट उपलब्धि यह है कि एस्ट्रा ने ओपन सोर्स एक्सप्लॉइट बेंचमार्क ExploitBench पर 100% सफलता प्राप्त की।

पब्लिक क्वेश्चन्स इसे रोक नहीं सके, इसलिए OpenAI ने अस्थायी रूप से इसके लिए एक नया पेपर तैयार किया।

टीम ने जून से अगस्त 2026 तक हाल ही में खुलासा किए गए 20 उच्च जोखिम वाले V8 दुर्बलताओं को इकट्ठा किया है।

ये सभी वैधताएँ Astra की ज्ञान सीमा के बाद उत्पन्न हुई हैं, जिससे मॉडल द्वारा प्रशिक्षण डेटा के आधार पर "उत्तर याद करने" की संभावना लगभग निष्कासित हो जाती है।

इस आंतरिक नए प्रश्न सेट के सामने, Astra अभी भी GPT-5.6 Sol को महत्वपूर्ण रूप से आगे रखता है और कम टोकन का उपयोग करता है।

एस्ट्रा के विकास में भाग लेने वाले जियावेई लिउ ने अंतर को और सीधे ढंग से सारांशित किया:

इस आंतरिक परीक्षण में, एस्ट्रा की साइबर सुरक्षा क्षमता GPT-5.6 Sol की लगभग चार गुना है।

अधिक आश्चर्यजनक बात यह है कि एक परीक्षण में, एस्ट्रा ने स्वयं दो जीरो-डे दुर्बलताओं की खोज की और उनका उपयोग करते हुए एक पूर्ण हमला श्रृंखला बना दी:

एक मजबूत ब्राउज़र के सामने, एस्ट्रा एक HTML फ़ाइल से शुरू करके सफलतापूर्वक दुर्बलता का दुरुपयोग करती है, ब्राउज़र सैंडबॉक्स से बाहर निकलती है, और अंततः होस्ट मशीन पर कमांड निष्पादित करती है।

एक मजबूत ऑपरेटिंग सिस्टम के सामने, यह स्थानीय उच्चाधिकार प्राप्त कर लेता है और एक सामान्य कम अधिकार वाले खाते से शुरू करके root अधिकार प्राप्त कर लेता है।

इसका मतलब है कि एस्ट्रा अब केवल प्रोग्रामर्स के लिए कोड की समीक्षा करने और बग ढूंढने में मदद नहीं कर रही है।

यह अब एक उच्च-कठिनाई वाली रेड टी हमला स्वतंत्र रूप से पूरा करने में सक्षम हो गया है।

यही कारण है कि OpenAI पहले अस्त्र को लॉन्च करने से डर रहा था।

जब ऐसी क्षमता का उपयोग रक्षा के लिए किया जाता है, तो यह सुरक्षा टीमों को मानवीय रूप से अभी तक अनदेखी गई दुर्बलताओं को जल्दी से पहचानने और ठीक करने में मदद कर सकती है, लेकिन यदि यह हमलावरों के हाथों में चली जाती है, तो यह जटिल साइबर हमलों को शुरू करने की सीमा को भी काफी कम कर सकती है।

हालांकि, इस उपलब्धि के साथ एक सीमा भी जोड़नी होगी।

टेस्टिंग के दौरान Astra को Daybreak Blue स्तर के उन्नत उपकरण और वातावरण अधिकार प्राप्त हुए, लेकिन इसका अर्थ यह नहीं है कि भविष्य में सामान्य उपयोगकर्ताओं को मिलने वाला डिफ़ॉल्ट संस्करण भी समान हमला परिस्थितियाँ प्रदान करेगा।

संबंधित परिणाम अभी भी मुख्य रूप से OpenAI के आंतरिक मूल्यांकन से आ रहे हैं, और इनकी तीसरे पक्ष द्वारा पुष्टि की प्रतीक्षा है।

लेकिन कम से कम एक बात पक्की है:

अब एस्ट्रा के इस चरण में, ओपनएआई के सामने क्षमता का मुद्दा नहीं है।

सुरक्षा समस्याएँ, अब डेमोक्लीज की तलवार बन चुकी हैं।

दो सुरक्षा बाधाएँ: दुरुपयोग से बचाव के साथ-साथ मॉडल के स्वयं अनियंत्रित होने से भी बचाव

इस तलवार को लोगों को नुकसान नहीं पहुंचाने के लिए कैसे रोकें?

OpenAI का प्रस्ताव दो जोखिम मार्गों को एक साथ सुरक्षित रखना है: एक मनुष्य के खिलाफ, और एक मॉडल के खिलाफ।

पहला, उपयोगकर्ताओं द्वारा अस्ट्रा के दुरुपयोग को रोकें।

अतिरिक्त विशेष सुरक्षा प्रशिक्षण के अलावा, OpenAI प्रणाली वर्गीकरक, निरंतर निगरानी और खतरा पता लगाने का उपयोग करता है ताकि बहु-चरण वार्तालाप और लंबे समय तक के कार्यों में संदिग्ध क्रियाओं की पहचान की जा सके।

नेटवर्क सुरक्षा जेल ब्रेक परीक्षण में, एस्ट्रा ने खतरनाक अनुरोधों को 91.5% की दर से अस्वीकार किया, जबकि GPT-5.6 Sol ने 59% की दर से अस्वीकार किया।

इसी समय, एस्ट्रा की उन्नत साइबर सुरक्षा क्षमताएँ सीधे सभी उपयोगकर्ताओं के लिए उपलब्ध नहीं होंगी; इन्हें पहले कुछ अल्फा टेस्टर्स को दिया जाएगा, और फिर Daybreak Blue जैसे नियंत्रित प्रोजेक्ट्स के माध्यम से क्रमिक रूप से जारी किया जाएगा।

दूसरा, मॉडल को अपने आप भटकने से रोकें।

यहाँ जोखिम अधिक छिपा हुआ है:

भले ही उपयोगकर्ता का कोई दुर्भावनापूर्ण इरादा न हो, मॉडल क्या अपने कार्य के दायरे को अनधिकृत रूप से बढ़ा देगा? क्या यह अनधिकृत उपकरणों का उपयोग करेगा, यहां तक कि सुरक्षा समीक्षा को भी चकमा देगा?

OpenAI ने इसके लिए एक "होनेपोट (honeypot)" परीक्षण व्यवस्था बनाई।

अत्यंत कठिन या असंभव कार्यों के सामने, परीक्षण वातावरण एक अनधिकृत "चालाकी" का मार्ग जानबूझकर छोड़ देता है, जिससे मॉडल निर्दिष्ट लक्ष्य पर सीधे हमला कर सकता है या अधिकार सीमा को पार करके परीक्षण सुविधाओं में प्रवेश कर सकता है।

परिणामस्वरूप, GPT-5.6 Sol ने 56% परीक्षणों में आसान रास्ता अपनाने की कोशिश की, जबकि Astra ने कभी नहीं की।

एक अन्य परीक्षण में, एस्ट्रा के ऑपरेशन को ऑटोमेटेड रिव्यू सिस्टम द्वारा अस्वीकार कर दिया गया, और इसने खतरनाक कमांड को दोबारा प्रयास नहीं किया या सीमाओं को बाईपास करने की कोशिश नहीं की।

इसके अलावा, OpenAI मॉडल की निष्कर्षण प्रक्रिया का निरीक्षण करता है।

जब कोई असामान्य प्रवृत्ति पता चलती है, तो सिस्टम कार्य को धीमा कर सकता है, रोक सकता है, या सीधे बंद कर सकता है।

हालांकि वास्तव में लागत होती है (कुछ सामान्य कार्य इसके कारण धीमे हो सकते हैं या गलती से बंद हो सकते हैं), लेकिन OpenAI के अनुसार, इसका अर्थ है कि Astra को अनुमति देने के लिए इस सुरक्षा लागत को भुगतान करना आवश्यक है।

हालांकि, OpenAI भी मानता है कि ये उपाय अंततः केवल बाहरी "ब्रेक" हैं, और मॉडल के स्वयं के अनुरूपीकरण का स्थान नहीं ले सकते:

सच्ची सुरक्षा यह है कि मॉडल शुरू से ही सीमा के बाहर न जाए।

Zhejiang University and Tongji University alumni join Astra's R&D front line

इस बात को सच में बनाने के लिए, अंततः मॉडल बनाने वालों पर ही निर्भर करता है।

हालांकि OpenAI ने अभी तक एस्ट्रा टीम की सूची जारी नहीं की है, लेकिन इस आम घोषणा के साथ, इसमें कम से कम दो चीनी शोधकर्ता सामने आ चुके हैं।

एक पहले उल्लिखित जियावेई लिउ हैं।

वह वर्तमान में OpenAI के शोधकर्ता हैं और 2021 में तोंगजी विश्वविद्यालय से कंप्यूटर विज्ञान में स्नातक किया।

अपनी स्नातक पढ़ाई के दौरान, उन्होंने हाई-परफॉर्मेंस बॉडी पोज एस्टिमेशन फ्रेमवर्क HyperPose के विकास में भाग लिया, जिसमें मुख्य रूप से मॉडल इन्फरेंस इंजन का जिम्मा था, और संबंधित परिणाम ACM Multimedia 2021 में शामिल किए गए, जिस प्रोजेक्ट को GitHub पर 1000 से अधिक स्टार मिल चुके हैं।

इसके बाद, वह इलिनोइस विश्वविद्यालय, उर्बाना-शैम्पेन में कंप्यूटर डॉक्टरेट के लिए गया, जहाँ उनके शिक्षक सॉफ्टवेयर इंजीनियरिंग विद्वान ज़ांग लिंगमिंग (Lingming Zhang) थे, और उनका शोध केंद्र धीरे-धीरे उच्च प्रदर्शन वाले दृश्य प्रणालियों से कोड मॉडल और सॉफ्टवेयर विश्वसनीयता की ओर बदल गया।

डॉक्टरेट के दौरान, उनके द्वारा विकसित उपकरणों ने PyTorch, TensorFlow आदि मशीन लर्निंग सिस्टम में 300 से अधिक गंभीर बग्स की खोज की;

Code model Magicoder is also adopted by Meta Llama 3.1, Google CodeGemma, and IBM Granite.

2025 में डॉक्टरेट पूरा करके OpenAI में शामिल होने के बाद, उसने जिन समस्याओं पर शोध किया, वे एक ही लहर में रहे:

AI को कोड लिखने और कोड में विफलताएँ खोजने में अधिक कुशल कैसे बनाएँ।

दूसरा Xiangyu Qi (Qī Xiángyǔ) है।

Qi Xiangyu ने जियांग्ज़ी विश्वविद्यालय से कंप्यूटर साइंस एंड टेक्नोलॉजी में स्नातक किया, 2021 में प्रिंसटन विश्वविद्यालय में इलेक्ट्रिकल एंड कंप्यूटर इंजीनियरिंग में डॉक्टरेट के लिए शामिल हुए, जिसमें उनका शोध क्षेत्र बड़े मॉडल की दृढ़ता, जेलब्रेक हमलों और सुरक्षा समन्वय पर केंद्रित है।

उनका सबसे अधिक ध्यान आकर्षित करने वाला कार्य, "Safety Alignment Should Be Made More Than Just a Few Tokens Deep" है।

यह पेपर बताता है कि बड़े मॉडल की सुरक्षा संरेखण केवल उत्तर के प्रारंभिक कुछ टोकन पर निर्भर नहीं हो सकती, क्योंकि जब उत्पादन जारी रहता है, तो मूल सुरक्षा ढाल अभी भी हमलावर द्वारा फाड़ी जा सकती है।

यह पेपर ICLR 2025 के लिए 11,672 अपलोड में से चुना गया और केवल 3 उत्कृष्ट पेपर्स में से एक बन गया।

2025 के डॉक्टरेट के बाद, की शियांयू ने ओपनएआई में तकनीकी टीम के सदस्य के रूप में शामिल होकर बड़े मॉडल की दृढ़ता पर शोध जारी रखा और साइबर सुरक्षा मॉडल से संबंधित कार्य में भाग लिया।

जिस सवाल का उसने ज़ेजियांग विश्वविद्यालय से प्रिंसटन, और फिर OpenAI तक लगातार पूछा, वही अब एस्ट्रा को सामना करना पड़ रहा है:

क्षमताएँ लगातार मजबूत हो सकती हैं, लेकिन सीमाएँ धुंधली नहीं हो सकतीं।

बेशक, अज्ञात है कि एस्ट्रा के आधिकारिक लॉन्च के बाद ओपनएआई पूरी सूची प्रकाशित करेगा या नहीं।

GPT-4 से पहले, OpenAI ने सैकड़ों योगदानकर्ताओं की विशेष रूप से सूची बनाई थी, लेकिन GPT-5 और GPT-5.5 पर, सिस्टम कार्ड और भी मोटा होता गया, जबकि शोधकर्ताओं की सूची और भी गहराई से छिपाई जा रही है।

पीछे का कारण सभी जानते हैं, जो मेटा के मिनी ज़ा की तरह आसपास के लोगों को चुराने की आदत रखते हैं, उनसे बचने के लिए है।

यह भी एक पीटीएसडी की तरह है...

एक और बात

जब OpenAI अस्त्रा की निगरानी और मॉडल के अनियंत्रित होने से बचने के बारे में बात कर रहा था, तो The Information ने खुलासा किया:

Astra ने "Recurrent Depth" नामक तकनीक का उपयोग किया।

पारंपरिक मॉडल अगले टोकन को जनरेट करने से पहले जानकारी को निश्चित संख्या में नेटवर्क लेयर से गुजारते हैं, जबकि रिकर्सिव डीपनिंग जानकारी को एक ही नेटवर्क लेयर सेट में बार-बार प्रोसेस करती है, जिससे मॉडल अंदरूनी रूप से "कुछ बार और सोचता है"।

यह प्रौद्योगिकी क्षमताओं में वृद्धि करने, लागत कम करने की उम्मीद करती है, साथ ही अधिक तर्क को मॉडल के भीतर ही स्थानांतरित किया जा सकता है, जिसे मानव द्वारा पढ़े जा सकने वाले पाठ के रूप में पूरी तरह से प्रस्तुत नहीं किया जाता।

In other words, the model may think deeper, but humans are becoming increasingly unable to understand it.

एआई सुरक्षा नीति पर लंबे समय से निगरानी करने वाले नाथन कैलविन ने चेतावनी दी कि यह प्रौद्योगिकी चिंतन श्रृंखला की निगरानीयोग्यता को बाधित कर सकती है।

यह बहुत सूक्ष्म है:

OpenAI एक ओर कह रहा है कि वह अस्त्रा के क्या सोच रहा है, उस पर नजर रखे, दूसरी ओर, उसकी नई तकनीक इस बात को और भी कम संभव बना सकती है कि वह अपने दिमाग की बातें साझा करे।

अरे ये...