जैसे-जैसे AI डेटासेंटर का आकार बढ़ता जा रहा है, निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच निवेशकों के बीच नि�
प्रतिस्पर्धा का केंद्र प्रणाली पर स्थानांतरित हो गया है
लेख के अनुसार, AI कैलकुलेशन शक्ति का वितरण उच्चतर शक्ति और बड़े क्लस्टर की ओर बढ़ रहा है, और प्रतिस्पर्धा के परिदृश्य को समझने के लिए केवल GPU देखना पर्याप्त नहीं है। जितना बड़ा डेटासेंटर होगा, डेटा, स्टोरेज, नेटवर्क और कंप्यूटिंग के बीच समन्वय उतना ही जटिल होगा। GPU अभी भी मुख्य घटक है, लेकिन कुशलता को निर्धारित करने वाली बातें अब अधिकतर GPU के बाहर की सिस्टम क्षमताएं हैं।
यही निवेडिया के वर्तमान कथा परिवर्तन का केंद्र है। भले ही अमेज़न, गूगल जैसे बड़े क्लाउड फर्म अपने स्वयं के चिप्स के विकास को आगे बढ़ा रहे हों, निवेडिया GPU के चारों ओर एक अधिक पूर्ण बुनियादी ढांचा समूह बना रहा है। लेख इसे इस प्रकार सारांशित करता है: यदि GPU इंजन है, तो शेष प्रणाली पूरी गाड़ी है।
Vera Rubin अधिक घटनाओं को कवर करती है
टेकक्रंच ने उल्लेख किया कि न्वीडिया वेरा रुबिन आर्किटेक्चर को आगे बढ़ा रहा है। यह आर्किटेक्चर केवल रुबिन GPU ही नहीं, बल्कि वेरा CPU और स्टोरेज, नेटवर्क आदि घटकों के लिए रैक-लेवल सिस्टम भी शामिल है। लेख के अनुसार, इन उत्पादों का महत्व यह है कि वे सीधे टोकन उत्पन्न करने के लिए नहीं हैं, बल्कि GPU के बाहर के प्रदर्शन के नुकसान को कम से कम करने के लिए हैं।
इसमें, वेरा CPU को डेटा स्केड्यूलिंग का एक महत्वपूर्ण हिस्सा बताया गया है। नविडिया स्टोरेज टेक्नोलॉजी के वाइस प्रेसिडेंट जेसन हार्डी ने कहा कि एकल सर्वर या एकल कंप्यूटिंग प्लेटफॉर्म पर स्थानीय रूप से संग्रहीत किया जा सकने वाला मेमोरी सीमित है, इसलिए GPU को सही समय पर डेटा प्रदान करना प्रणाली की दक्षता की कुंजी बन गया है।
डेटा नया युद्धक्षेत्र बन गया है
लेख में हार्डी के अनुसार, कुछ संबंधित ऑपरेशन में वेरा CPU द्वारा लगभग 3 गुना का त्वरण प्राप्त हो सकता है। इसका अर्थ है कि फ्लैश मेमोरी जैसे हार्डवेयर संसाधनों का अधिक कुशलता से उपयोग किया जा सकता है और सिस्टम की बॉटलनेक संभावना कम हो सकती है।
लेख में यह भी उल्लेख किया गया है कि यह समस्या केवल निविडा प्रणाली में ही सीमित नहीं है। ओपनएआई ने पहले जलपेन्यो चिप का परिचय देते समय, डेटा स्थानांतरण और संचार लेटेंसी को कम करने को प्रमुख लक्ष्य बताया था। इसका विचार यह है कि पूर्ण कार्यभार को एक संबंधित प्रणाली में ही रखा जाए, ताकि मॉड्यूल के बीच स्थानांतरण से होने वाली हानि कम हो।
टेकक्रंच के अनुसार, यह दर्शाता है कि AI बुनियादी ढांचे की प्रतिस्पर्धा एक नए चरण में प्रवेश कर रही है। उद्यम अब केवल प्रोसेसर की गणना क्षमता की तुलना नहीं कर रहे हैं, बल्कि डेटा कैसे प्रवाहित हो रहा है, स्टोरेज कैसे समन्वयित हो रहा है, और नेटवर्क कैसे ब्लॉक होने से बच रहा है। दूसरे शब्दों में, प्रतिस्पर्धा का स्तर “जिसके पास अधिक शक्तिशाली GPU है” से “जो पूरी प्रणाली को अधिक कुशलता से चला सकता है” की ओर बदल रहा है।
लेख के अनुसार, यह परिवर्तन इस बात का अर्थ नहीं है कि निविडा ने जीत पक्की कर ली है। इसे अन्य चिप निर्माताओं और बड़े क्लाउड सर्विस प्रोवाइडर्स के साथ प्रतिस्पर्धा का सामना करना पड़ता है। लेकिन वर्तमान चरण में, निविडा की सिस्टम एकीकरण और स्केड्यूलिंग क्षमता में अभी भी अग्रणियता है, जो बाजार के द्वारा इसके AI लाभ का पुनर्मूल्यांकन करने का महत्वपूर्ण कारण है।