निविडिया अपने आगामी रुबिन अल्ट्रा GPU के लिए एक महत्वपूर्ण स्पेस बदलाव पर विचार कर रही है, जिससे चिप को कंपनी द्वारा मूल रूप से लक्षित किए गए काफी कम हाई-बैंडविड्थ मेमोरी के साथ भेजा जा सकता है। ट्रेंडफोर्स द्वारा अगस्त 2026 की शुरुआत में रिपोर्ट किए गए इस समायोजन का सीधा प्रतिक्रिया है HBM की तीन प्रमुख उत्पादकों: एसके हाइनिक्स, सैमसंग और माइक्रॉन से आपूर्ति में संकुचन।
रुबिन अल्ट्रा के लिए मूल दृष्टिकोण बहुत लक्ष्यवान था। जब न्विडिया ने 2025 में अपने GTC डेवलपर कॉन्फ्रेंस पर यह चिप प्रकट किया, तो उपलब्ध कॉन्फ़िगरेशन में अधिकतम 1 TB HBM4E मेमोरी शामिल थी। वर्तमान वेरा रुबिन GPU, जो पहले से ही बड़े पैमाने पर उत्पादित हो रहा है, 12-Hi स्टैक्स के साथ अधिकतम 288 GB HBM4 के साथ भेजा जाता है, जो लगभग 22 TB/s की मेमोरी बैंडविड्थ प्रदान करता है। रुबिन अल्ट्रा को इससे काफी आगे बढ़ना था।
अब, Nvidia कम से कम तीन विकल्पों का परीक्षण कर रहा है जिनमें स्मृति में महत्वपूर्ण कमी है। एक विकल्प, जिसकी समीक्षा की जा रही है, 8-Hi HBM4 स्टैक्स का उपयोग करता है जो लगभग 192 GB स्मृति ले जाते हैं। वर्तमान वेरा रुबिन पर 288 GB की तुलना में, यह एक ऐसे चिप के लिए 33% की कमी है जिसे पीढ़ीवार क्रांति का प्रतिनिधित्व करना था।
क्यों AI कार्यभार के लिए मेमोरी सब कुछ है
हाई-बैंडविड्थ मेमोरी केवल क्षमता के बारे में नहीं है। "बैंडविड्थ" भाग में यह दर्शाया जाता है कि मेमोरी और चिप के प्रोसेसिंग कोर्स के बीच डेटा कितनी तेजी से चलता है। 22 TB/s पर, वर्तमान वेरा रुबिन पहले से ही ऐसी गति पर कार्य कर रहा है जो पारंपरिक सर्वर मेमोरी को कई क्रमों से पीछे छोड़ देती है।
8-Hi स्टैक्स से 12-Hi स्टैक्स पर स्विच करने से क्षमता और संभावित रूप से बैंडविड्थ दोनों में कमी आती है। निविडिया रिपोर्ट्स के अनुसार, मेमोरी कम होने के बावजूद शीर्ष प्रदर्शन को बनाए रखने के लिए विभिन्न विकल्पों का परीक्षण कर रही है, लेकिन कम मेमोरी स्टैक्स के भौतिकी वास्तविक सीमाएँ निर्धारित करते हैं जो इंजीनियरिंग अनुकूलनों द्वारा पुनः प्राप्त नहीं की जा सकतीं।
ट्रेंडफोर्स की 4 अगस्त की रिपोर्ट में बताया गया कि न्विडिया रुबिन अल्ट्रा के लिए चार अलग-अलग HBM कॉन्फ़िगरेशन का मूल्यांकन कर रही है, जिसमें 12-Hi HBM4E से हटने का कारण 2027 तक गहराने की उम्मीद की जा रही DRAM और HBM की कमी है। सभी तीन प्रमुख HBM आपूर्तिकर्ताओं पर यील्ड और उत्पादन की चुनौतियों के कारण एक वेफर आवंटन संकुचन पैदा हुआ है, जिसे न्विडिया अकेले हल नहीं कर सकती।
कम के साथ अधिक करने की छिपी लागत
यदि रुबिन अल्ट्रा में प्रति GPU कम मेमोरी है, तो बहुत बड़े AI मॉडल चलाने वाले उद्यमों को समान वर्कलोड्स को संभालने के लिए अधिक GPU की आवश्यकता होगी। एक मॉडल जो चार उच्च-मेमोरी GPU पर फिट होता है, वह छह या आठ कम-मेमोरी GPU की आवश्यकता कर सकता है, जिससे अतिरिक्त हार्डवेयर के साथ-साथ अपनी लागत भी आती है: अधिक बिजली खपत, अधिक रैक स्थान, अधिक इंटरकनेक्ट बुनियादी ढांचा, और अधिक लाइसेंसिंग ओवरहेड।
Nvidia के राजस्व चित्र के लिए भी एक सूक्ष्मता है। Rubin Ultra के लिए मूल रूप से योजनाबद्ध उच्च-स्पेक मेमोरी HBM4E, सप्लाई चेन के भरपूर मार्जिन प्रदान करती है। कम स्तरीय HBM कॉन्फ़िगरेशन की ओर जाना, सबसे लाभदायक मेमोरी उत्पादों की मांग को प्रभावित करता है, जिससे SK Hynix, Samsung और Micron अपने उत्पादन रोडमैप को प्राथमिकता देने को प्रभावित होते हैं।
HBM की आपूर्ति पहले से ही पर्याप्त रूप से सीमित है, जिससे मेमोरी निर्माताओं द्वारा किए गए आवंटन निर्णयों का वास्तविक भू-राजनीतिक और प्रतिस्पर्धी महत्व है। Nvidia प्रमुख खरीददार है, लेकिन यह AMD, Google और Amazon, Microsoft और Meta जैसे हाइपरस्केलर्स के बढ़ते हुए कस्टम AI चिप कार्यक्रमों के साथ वेफर क्षमता के लिए प्रतिस्पर्धा करता है।
एआई चिप बाजार के लिए इसका क्या अर्थ है
अग्रणी HBM को DRAM डाइ के अत्यधिक सटीक स्टैकिंग की आवश्यकता होती है, और 12-Hi कॉन्फिगरेशन के लिए उत्पादन दरें सरल 8-Hi स्टैक की तुलना में कम होती हैं, जिससे ऐसे उत्पादन बॉटलनेक्स पैदा होते हैं जिन्हें जल्दी से हल नहीं किया जा सकता।
इसी बीच, मेमोरी आपूर्तिकर्ता अपने स्वयं के रणनीतिक गणनाओं का सामना कर रहे हैं। 2027 तक HBM की सीमित आपूर्ति के कारण कीमतें उच्च बनी रहती हैं और मांग मजबूत रहती है, लेकिन मेमोरी में कमी को पूरा करने के लिए ग्राहकों को अधिक GPU खरीदने पर मजबूर किया जा रहा है, जिससे आपूर्ति अंतर को बंद करने के लिए दबाव बनता है। जो कंपनी पहले उच्च उत्पादन दक्षता वाला 12-Hi या 16-Hi स्टैकिंग हासिल करेगी, वह अगले GPU डिज़ाइन बातचीत में महत्वपूर्ण लेवरेज रखेगी।
