NVIDIA Rubin Ultra HBM को 8-Hi पर कम कर दिया गया है क्योंकि बैंडविड्थ लागत मुख्य प्रतिबंध बन गई है

iconKuCoinFlash
साझा करें
AI summary iconसारांश
NVIDIA ने Rubin Ultra में HBM को 8-Hi में कम कर दिया है, जिसका कारण प्रति इकाई बैंडविड्थ लागत में वृद्धि है। यह बदलाव DRAM डाई के उपयोग को एक तिहाई कम कर देता है, जिससे HBM की आपूर्ति में आराम मिलता है जबकि कुल बैंडविड्थ बना रहता है या बढ़ता है। AI चिप डिज़ाइन बैंडविड्थ की दक्षता की ओर बढ़ रहा है, इसलिए ध्यान देने योग्य अल्टकॉइन्स में बुलिश ट्रेंड देखा जा सकता है। अब पावर और लागत के प्रतिबंध, कच्ची HBM क्षमता से अधिक महत्वपूर्ण हैं।
ME AI संदेश, SemiAnalysis के अनुसार, निविडा ने Rubin Ultra के HBM को 12-Hi से घटाकर 8-Hi कर दिया है, और इसका मुख्य कारण केवल क्षमता कम करना नहीं है, बल्कि वर्तमान AI निष्कर्षण में वास्तविक सीमा प्रति इकाई बैंडविड्थ लागत ($/bandwidth) है, न कि प्रति इकाई क्षमता लागत ($/capacity)। HBM स्टैकिंग की परतें मुख्य रूप से क्षमता निर्धारित करती हैं, जबकि कुल बैंडविड्थ अधिकतर HBM स्टैक की संख्या, इंटरफ़ेस चौड़ाई और ट्रांसमिशन दर पर निर्भर करती है। इसलिए, 12-Hi से 8-Hi तक कम करने से DRAM चिप के उपयोग में लगभग 1⁄3 की कमी होती है, जिससे वर्तमान में संकुचित और महंगी HBM आपूर्ति के दबाव में आराम मिलता है, जबकि स्टैक की संख्या और इंटरफ़ेस कॉन्फ़िगरेशन को अपरिवर्तित रखते हुए पूर्ण बैंडविड्थ को बनाए रखा या बढ़ाया जा सकता है। इसका मतलब है कि निविडा सक्रिय रूप से कम HBM क्षमता के बदले में अधिक बैंडविड्थ की आर्थिकता प्राप्त कर रही है। जितना अधिक AI कार्यभार निष्कर्षण पर केंद्रित होते जा रहे हैं, उतना ही मॉडल को "अधिक डेटा स्टोर करने" की आवश्यकता नहीं, बल्कि मॉडल वेट्स और KV Cache को लगातार, तेज़ी से स्थानांतरित करने की आवश्यकता होती है, इसलिए मेमोरी बैंडविड्थ का महत्व बढ़ रहा है। Rubin Ultra के समायोजन से पता चलता है कि HBM प्रतिस्पर्धा की तर्कशृंखला परिवर्तित हो रही है: AI चिप्स का लक्ष्य अब केवल HBM क्षमता को स्टैक करना नहीं है, बल्कि सीमित DRAM, शक्ति और लागत सीमाओं के भीतर संभवतः सबसे अधिक प्रभावी बैंडविड्थ प्राप्त करना है। HBM की मुख्य सीमा "क्या पर्याप्त क्षमता है" से "प्रति डॉलर कितनी बैंडविड्थ प्राप्त हो सकती है" में स्थानांतरित हो रही है। (स्रोत: Wall Street Journal)
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा। डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।