AIMPACT संदेश, 30 अप्रैल (UTC+8), Beating द्वारा निगरानी के अनुसार, NVIDIA ने एक ब्लॉग पोस्ट में निष्कर्षण हार्डवेयर चयन का विश्लेषण किया है, जिसका मुख्य तर्क एक वाक्य में है: "निष्कर्षण बुनियादी ढांचे का मूल्यांकन 'प्रति GPU प्रति घंटा लागत' के बजाय 'प्रति token लागत' के आधार पर किया जाना चाहिए।" GPU की कीमत के आधार पर, Blackwell महंगा है; परंतु token लागत के आधार पर, Blackwell पिछली पीढ़ी को पूरी तरह से पीछे छोड़ देता है। ब्लॉग में DeepSeek-R1 (MoE निष्कर्षण मॉडल) को परीक्षण के रूप में लिया गया है, जिसकी तुलना Blackwell (GB300 NVL72) और पिछली पीढ़ी Hopper (HGX H200) से की गई है। बादल बाजार के किराए के संदर्भ मूल्यों के अनुसार, Blackwell की प्रति GPU प्रति घंटा लागत 2.65 डॉलर है, जो Hopper की 1.41 डॉलर की तुलना में लगभग दोगुनी है, लेकिन प्रति GPU प्रति सेकंड token उत्पादन 90 से 6000 तक बढ़ गया है, जिससे 65 गुना की संचार क्षमता में वृद्धि हुई है, जिसके परिणामस्वरूप प्रति मिलियन token लागत 4.20 डॉलर से घटकर 0.12 डॉलर हो गई है। प्रति मेगावाट token उत्पादन में 50 गुना की वृद्धि हुई है। ध्यान देने योग्य पूर्वधारणा: 0.12 डॉलर का यह आंकड़ा FP4 लो-प्रिसिजन निष्कर्षण के साथ-साथ MTP (बहु-token पूर्वानुमान, जो मॉडल को एक साथ कई token उत्पन्न करने की सुविधा प्रदान करता है) सहित कई सॉफ़्टवेयर अनुकूलनों को सक्रिय करने पर आधारित है। SemiAnalysis InferenceX v2 के मूल डेटा के अनुसार, DeepSeek-R1 को समान GB300 NVL72 पर चलाने पर, MTP को सक्रिय नहीं करने पर प्रति मिलियन token लागत लगभग 2.35 डॉलर है, जबकि MTP सक्रिय होने पर यह 0.11 डॉलर तक कम हो जाती है, जिससे केवल इसी एक अनुकूलन से 21 गुना का अंतर पड़ता है। सभी मूल्य DeepSeek-R1 के केवल एकल मॉडल के परीक्षण पर आधारित हैं; विभिन्न मॉडल संरचनाओं और मापों के संदर्भ में संख्याएँ भिन्न हो सकती हैं। (स्रोत: BlockBeats)
NVIDIA ने ब्लैकवेल की लागत विवरण जारी किए: GPU की कीमत दोगुनी, टोकन की लागत 35x घटी
KuCoinFlashसाझा करें
सारांश
NVIDIA के Blackwell GPU की कीमत Hopper मॉडल की तुलना में लगभग दोगुनी है, लेकिन टोकन की कीमत 35 गुना कम हो जाती है। $2.65 प्रति घंटे की क्लाउड दर पर, Blackwell 6,000 टोकन प्रति सेकंड प्रदान करता है, जबकि Hopper केवल 90 टोकन प्रति सेकंड। इससे प्रति मिलियन टोकन की लागत $4.20 से घटकर $0.12 हो जाती है। कीमत विश्लेषण दर्शाता है कि FP4 और MTP जैसे सॉफ्टवेयर सुधार कुशलता में वृद्धि करते हैं। क्रिप्टो कीमत रुझान ऐसे हार्डवेयर परिवर्तनों को प्रतिबिंबित कर सकते हैं।
स्रोत:मूल दिखाएं
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा।
डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।