[परिचय] GPT-5.6 की तर्क क्षमता अचीव 750 टोकन/सेकंड है! एक पेशेवर विशेषज्ञ ने आंतरिक जानकारी साझा की: यह 100 वेफर्स पर चलेगा। क्या AI के विचार से त्वरित प्रतिक्रिया का युग आ गया है?
विभिन्न स्रोतों के अनुसार, GPT-5.6 जल्द ही सार्वजनिक के लिए उपलब्ध हो जाएगा।
हाल ही में, इस मॉडल के बारे में विभिन्न अनुमान X पर वायरल हो गए हैं।
26 जून को, OpenAI ने आधिकारिक रूप से नई पीढ़ी के GPT-5.6 परिवार की घोषणा की थी।
और ऑफिशियल ब्लॉग में एक वाक्य है: OpenAI इस महीने चिप विशाल Cerebras के कस्टम हार्डवेयर पर नया अग्रणी मॉडल—GPT-5.6 Sol लॉन्च करने की योजना बना रहा है, जिसकी इन्फरेंस स्पीड 750 टोकन प्रति सेकंड है!
That is, complex Agent operations that previously required waiting for minutes can now be completed in the blink of an eye.
स्पष्ट रूप से, OpenAI ने हार्डवेयर और मॉडल सह-डिजाइन में एक विप्लवकारी कदम उठाया है।
इसके अलावा, हाल ही में अपने आप से विकसित पहला AI निष्कर्षण चिप Jalapeño के उद्घाटन से हमें एहसास होता है कि OpenAI एक पूर्ण स्टैक AI साम्राज्य बनने की इच्छा रखता है।
सभी कलाओं में तेज़ी ही विजयी है: 750 टोकन/सेकंड का डाइमेंशनल ड्रॉप अटैक
"प्रति सेकंड 750 टोकन" का क्या अर्थ है?
मनुष्यों के लिए, यह एक सेकंड में लगभग 500 से 600 चीनी वर्ण पढ़ने और आउटपुट करने के बराबर है।
आपके सामने यह पाठ, GPT-5.6 Sol केवल कुछ दशमलव सेकंड में उत्पन्न कर देगा।
X पर, प्रसिद्ध डेवलपर केलेब शेफर्ड ने उत्साह से कहा: "यह मेरी सबसे उत्साहजनक बात है, GPT-5.6 Sol Cerebras पर चल रहा है। यह केवल इसलिए नहीं है कि कोड लिखने की गति तेज हो गई है, बल्कि इसलिए कि कंप्यूटर के उपयोग की गति में गुणात्मक परिवर्तन आया है। हमें अब AI द्वारा एक बटन पर क्लिक करने के लिए दो मिनट इंतजार करने की जरूरत नहीं है।"
लंबे समय तक, जबकि बड़े मॉडल लगातार अधिक बुद्धिमान होते जा रहे हैं, 'इन्फरेंस लेटेंसी' वास्तविक समय इंटरैक्शन और बहु-चरण Agent कार्यों में लागू होने की सबसे बड़ी बाधा रही है।
जब मॉडल इतना बड़ा हो जाए कि इसमें कई ट्रिलियन पैरामीटर हों, तो पारंपरिक GPU क्लस्टर नोड्स के बीच संचार (NVLink इंटरकनेक्ट) पर अक्सर भौतिक सीमाओं का सामना करते हैं।
और OpenAI द्वारा दिया गया उत्तर है: मॉडल को हार्डवेयर के अनुकूल नहीं करना चाहिए, बल्कि हार्डवेयर और मॉडल को एक साथ एकीकृत करना चाहिए।
आधिकारिक रूप से उजागर की गई प्रारंभिक जानकारी के अनुसार, GPT-5.6 Sol को जुलाई में विशिष्ट ग्राहकों के लिए अत्यंत सीमित पैमाने पर उपलब्ध कराया जाएगा, और क्षमता बढ़ने के साथ ही धीरे-धीरे विस्तारित किया जाएगा।
जैसा कि लोग ऑनलाइन अनुमान लगा रहे थे, यह एक अत्यंत महंगी सेवा है, जो गति के लिए भुगतान करने को तैयार शीर्ष व्यवसायों के लिए विशेष रूप से डिज़ाइन की गई है।
3 ट्रिलियन पैरामीटर्स के विशालकाय को चिप में कैसे फिट किया जाए?
जब 750 टोकन/सेकंड का संदेश आया, तो LLM Arena के प्रमुख पीटर गोस्टेव ने एक ऐसा प्रश्न उठाया जिसका जवाब सभी के मन में था:
GPT-5.6 Sol के बारे में Cerebras पर क्या हो रहा है? मेरे जाने के अनुसार, यह स्पष्ट रूप से पूर्ण मॉडल है (जिसमें विजुअल और अन्य मल्टीमॉडल क्षमताएँ शामिल हैं), और पिछले GPT-5.3-Codex-Spark की तरह विजुअल और कॉन्टेक्स्ट को काटकर बनाया गया कमजोर संस्करण नहीं है।
लेकिन मेरी समझ में, Cerebras का एकल चिप केवल 7000 से 9000 अरब पैरामीटर के मॉडल को ही समायोजित कर सकता है। क्या मॉडल छोटा हो गया है? या क्या मुझे अज्ञात नए चिप्स के बारे में पता नहीं है? या क्या यह कोई नई बहु-चिप सहयोगी तकनीक है?
यह प्रश्न तुरंत कई ऑनलाइन उपयोगकर्ताओं के बीच चर्चा का विषय बन गया।
कुछ लोग मजाक में कह रहे हैं कि लोग इसे "मिडनाइट पर फॉरेंसिक लेवल की चिप ऑडिट" कर रहे हैं, और कहते हैं कि "अगर यह वास्तव में एक ही पूर्ण मॉडल है, तो यह ऐसा है जैसे किसी ने एक सुपर क्रूजर को एक कांच की बोतल में जबरदस्ती भर दिया हो, और आपको यह भी नहीं बताया हो कि यह कैसे किया गया।"
जल्द ही, वरिष्ठ तकनीकी विशेषज्ञ ब्लेज़ गुडसन ने एक अत्यंत प्रभावशाली, तकनीकी विश्लेषण प्रस्तुत किया—
GPT-5.6 Sol ने केवल एक चिप को नहीं भरा है, बल्कि 70 से 100 Cerebras वेफर-लेवल चिप्स को कवर किया है!
अत्यधिक डिप्लॉयमेंट एस्थेटिक्स: "एक वेफर, एक नेटवर्क"
उद्योग विशेषज्ञों के अनुमान के अनुसार, GPT-5.6 Sol की विनिर्देश अत्यंत विशाल हैं:
- कुल पैरामीटर: लगभग 3 ट्रिलियन
- एक्टिवेशन पैरामीटर: लगभग 150 अरब
- नेटवर्क लेयर्स: लगभग 70 से 90 लेयर्स
स्वस्थ निष्कर्ष सेवा विशेषताओं के लिए, OpenAI और Cerebras ने एक अत्यंत लक्ज़री और आश्चर्यजनक डिप्लॉयमेंट दृष्टिकोण अपनाया—प्रत्येक न्यूरल नेटवर्क परत को अलग-अलग एक पूरे Cerebras वेफर पर डिप्लॉय किया।
जैसा कि एक ऑनलाइन उपयोगकर्ता ने इशारा किया है, पाइपलाइन चरणों को बढ़ाकर, जब तक आपके पास पर्याप्त वेफर्स हों जिन्हें आप जोड़ सकें, आप सिद्धांत रूप से किसी भी आकार के मॉडल को विस्तारित कर सकते हैं, जिससे टोकन उत्पादन गति प्रभावित नहीं होगी, केवल TTFT पर हल्का प्रभाव पड़ सकता है।
साहसी ढांचे का पुनर्निर्माण—बाध्य किया गया हल्का KV Cache
हालांकि, केवल बड़ी मात्रा में वेफर पर्याप्त नहीं है। सेरेब्रास चिप आर्किटेक्चर की एक प्रमुख विशेषता बड़ी मात्रा में ऑन-चिप SRAM (स्टैटिक रैंडम एक्सेस मेमोरी) है, जो अत्यंत तेज़ है, लेकिन क्षमता अत्यंत मूल्यवान है।
यदि OpenAI पिछली तरह से GPT-5.6 Sol में पारंपरिक भारी KV कैश का उपयोग करता है, तो ये महंगे SRAM बैंडविड्थ क्षणिक रूप से समाप्त हो जाएंगे।
इससे इस साझेदारी की सबसे मुख्य रणनीतिक दिशा बनती है: विशिष्ट हार्डवेयर के आधार पर मॉडल का पुनर्निर्माण।
ब्लेज़ गुडसन ने बताया कि चूंकि OpenAI हार्डवेयर सह-डिज़ाइन में गहराई से शामिल है, इसलिए वे संभवतः पारंपरिक ध्यान तंत्र कैशिंग योजनाओं को छोड़कर अधिक उन्नत हल्के डिज़ाइन की ओर बढ़ गए हैं।
सबसे अधिक संभावित विकल्प इनमें से हैं:
DeepSeekV4 जैसी आर्किटेक्चर: कैश उपयोग को अत्यधिक अनुकूलित किया गया।
मिक्स्ड SSM डिज़ाइन: Mamba जैसे रैखिक समय जटिलता वाले मॉडल को Transformer के साथ जोड़कर KV Cache के पुराने बोझ को पूरी तरह से छोड़ दें।
इसके अलावा, प्रसिद्ध डेवलपर जॉन लैम ने एक आकर्षक अनुमान भी प्रस्तुत किया—ध्यान और FFN का अलगीकरण।
वह अनुमान लगाता है कि OpenAI संभवतः ध्यान गणना के लिए पारंपरिक GPU का उपयोग कर रहा है, और फ़ीडफ़ॉरवर्ड न्यूरल नेटवर्क भाग की गणना के लिए विशाल Cerebras वेफर का उपयोग कर रहा है।
यह बिल्कुल बेमौल है। नेटिज़न्स ने जल्दी ही Cerebras के पिछले ब्लॉग में Kimi K2.6 के डिप्लॉयमेंट विवरण को निकाल लिया:
Cerebras, CS-3 सिस्टम पर Kimi K2.6 के मूल वजन को 4-बिट में स्टोर करता है और सटीकता को बनाए रखने के लिए 16-बिट फ्लोटिंग पॉइंट पर गणना करता है। वजन कई वेफर्स पर वितरित होते हैं, और एक्टिवेशन मान वेफर्स के बीच स्ट्रीम होते हैं। स्तरों के बीच की पूर्ण संबंधित संचार पूरी तरह से वेफर पर नेटवर्क स्ट्रक्चर पर निर्भर करता है, जिसकी बैंडविड्थ Nvidia NVL72 पर NVLink से 200 गुना अधिक है! कस्टम ऑपरेटर और स्पेकुलेटिव डिकोडिंग के साथ, वे ट्रिलियन पैरामीटर MoE मॉडल को लगभग 1000 टोकन/सेकंड की गति से चला सकते हैं।
ऑफिशियल स्पेसिफिकेशन के अनुसार, क्रांतिकारी CS-3 सिस्टम न केवल अद्भुत गति प्रदान करता है, बल्कि एकल लॉजिक डिवाइस पर 24 ट्रिलियन पैरामीटर के मॉडल तक आसानी से स्केल होता है!
जैसा कि किसी ने आश्चर्य से कहा: "अगर यह वास्तव में Cerebras पर चल रहा पूर्ण संस्करण Sol है, तो आज रात सभी के लिए मॉडल आकार की सीमा को सीधे तोड़ दिया गया है।"
असली ट्रम्प कार्ड—OpenAI ने अपने स्वयं के चिप «Jalapeño» का शुभारंभ किया
और इससे ठीक पहले, OpenAI ने अपना पहला स्वयं डिज़ाइन किया गया चिप — Jalapeño लॉन्च किया।
इस चिप के आविष्कार से OpenAI और Cerebras के सहयोग की गहरी तर्कशक्ति स्पष्ट होती है: तीसरे पक्ष के शीर्ष निष्कर्षण हार्डवेयर पर अनुसंधान के माध्यम से, OpenAI ने विशिष्ट निष्कर्षण आर्किटेक्चर के मुख्य बिंदुओं और मूल्य को पूरी तरह समझा और इसे अपने नियंत्रित नींव के प्लेटफॉर्म में बदल दिया।
जलपेंयो मेक्सिकन चिली के सबसे हल्के स्वाद वाले प्रकारों में से एक है। ओपनएआई ने इसका नाम इसलिए रखा है क्योंकि यह केवल एक अपेटाइज़र है।
यह चिप, बड़े मॉडल निष्कर्षण के लिए डिज़ाइन किया गया एक कस्टम ASIC है। पहली रेखा खींचने से लेकर, इसका प्रत्येक ट्रांजिस्टर केवल एक ही काम के लिए अनुकूलित है: बड़े मॉडल चलाना।
अप्रत्याशित रूप से, Jalapeño केवल OpenAI के अपने मॉडल को ही नहीं चलाता, बल्कि इसकी आर्किटेक्चर पूरे उद्योग के LLM के साथ संगत है, जो इसकी बड़ी प्लेटफॉर्म की इच्छाशक्ति को दर्शाती है।
और, इस चिप के डिज़ाइन और टेपआउट केवल 9 महीनों में पूरे हुए।
इसके पीछे अत्यंत शक्तिशाली उद्योग संघ है:
Architecture-led: OpenAI has personally designed the underlying architecture.
Chip Implementation and Interconnection: Chip giant Broadcom provides robust implementation capabilities and network interconnection technology support.
System Integration: Celestica is responsible for final board manufacturing and rack-level physical integration.
पूरी श्रृंखला को निगल लेना, OpenAI का पूर्ण स्तरीय साम्राज्य का लक्ष्य
मॉडल को खुद ट्रेन करें, चिप को खुद डिज़ाइन करें, इन्फरेंस को खुद ऑप्टिमाइज़ करें, और डिप्लॉयमेंट को खुद कंट्रोल करें।
स्पष्ट रूप से, OpenAI का लक्ष्य एक विशाल पूर्ण स्टैक AI साम्राज्य है।
लेकिन OpenAI का लक्ष्य Apple और Google से भी अधिक पागलपन भरा है; उनके पास एक अभूतपूर्व सुपर फ्लायव्हील है: AI का उपयोग AI बुनियादी ढांचे के निर्माण को तेज करने के लिए किया जाता है, और फिर बनाए गए अधिक शक्तिशाली बुनियादी ढांचे का उपयोग अधिक शक्तिशाली AI को चलाने के लिए किया जाता है।
OpenAI द्वारा घोषित विशाल योजना के अनुसार, पहले GW स्तर के सुपर डेटासेंटर 2026 के अंत से शुरू होकर, माइक्रोसॉफ्ट जैसे मुख्य साझेदारों के साथ सामूहिक रूप से लागू किए जाएंगे।
एक मध्यम आकार के शहर की पूरी बिजली खपत, जलपेन्यो और अगली पीढ़ी के मिर्च चिप्स के लिए इन्फरेंस रैक को संचालित करने के लिए उपयोग की जाएगी।
तैयार रहें, जल्द ही, हम GPT-5.6 Sol को Cerebras वेफर पर 750 Tokens/s की गति से तेजी से चलाने वाले हैं, जो पैरामीटर और निष्पादन गति के भौतिक श्राप को तोड़ देगा।
संदर्भ: https://x.com/bleysg/status/2073937651150029084
यह लेख वेचेन ग्रुप "न्यूज़िज़यून" से आया है, लेखक: ASI अपोकैलिप्स; संपादक: एनियस