source avatartwoeraserheads 🇨🇦

साझा करें

CPO कौन सी समस्याओं को हल करते हैं? AI ट्रेनिंग और इन्फरेंस क्लस्टर केवल कंप्यूटेशनल रूप से सीमित नहीं हैं, बल्कि मूल रूप से नेटवर्किंग से भी सीमित हैं। जैसे-जैसे GPU क्लस्टर दर्जनों या लाखों GPU तक बढ़ते हैं, तीन समस्याएँ एक साथ प्रकट होती हैं: 1. बैंडविड्थ की दीवार: प्रत्येक नई GPU पीढ़ी (H100 → B200 → Rubin) को कंप्यूटेशन को संचालित रखने के लिए प्रति चिप अधिक I/O बैंडविड्थ की आवश्यकता होती है। इंटरकनेक्ट बैंडविड्थ को कंप्यूट FLOPs (प्रति सेकंड फ्लोटिंग-पॉइंट संचालन, जो कंप्यूटर की जटिल गणितीय प्रोसेसिंग क्षमता मापने की इकाई है) से तेज़ी से बढ़ना होगा, अन्यथा GPU डेटा का इंतजार करते हुए निष्क्रिय हो जाएँगे। 2. बिजली की दीवार: Nvidia के Jensen Huang द्वारा वर्णित गीगावॉट स्तर के AI डेटासेंटर की अवधारणा, ऐसी सुविधाओं की कल्पना करती है जो गीगावॉट या उससे अधिक बिजली का उपयोग करती हैं, और प्रत्येक वॉट, जो चिप्स के बीच बिट्स स्थानांतरित करने में खर्च होता है, वह कंप्यूटिंग में खर्च नहीं होता। पारंपरिक विद्युत/ऑप्टिकल सिग्नलिंग, डेटा को पैकेज में प्रवेश कराने और बाहर निकालने के लिए काफी बिजली खर्च करती है। 3. पहुँच की दीवार: कॉपर इंटरकनेक्ट (NVLink, PCIe ट्रेस) AI की आवश्यकताओं (100G+ प्रति लेन) के संकेतन गति पर कुछ मीटर से अधिक पर हानि प्रवण + बिजली-भारी हो जाते हैं। प्रकाशिकी में इस दूरी का प्रभाव नहीं होता, लेकिन विद्युत और प्रकाशिक क्षेत्रों के मध्य संक्रमण में बिजली का खर्च होता है और संघटकों की संख्या में वृद्धि होती है। को-पैकेज्ड ऑप्टिक्स सभी तीन समस्याओं का एक साथ हल है: प्रिंटेड सर्किट बोर्ड के किनारे पर डेटा को प्रकाश में परिवर्तित करने के बजाय, आप प्रकाशिक मशीन को, संकेतन का मुख्य स्रोत होने वाले सिलिकॉन के सबसे पास, संभवतः स्विच ASIC या GPU के समान पैकेज सबस्ट्रेट पर स्थानांतरित करते हैं।

डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा। डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।