एआई-संचालित क्षमता संकट के बीच एडब्ल्यूएस इंजीनियर्स को सीपीयू व्यर्थता कम करने के लिए कहा गया

अमेज़न वेब सर्विसेज, जो इंटरनेट का एक अद्भुत हिस्सा संचालित करती है, एक ट्रिलियन डॉलर की कंपनी के लिए लगभग पुराना लगने वाला काम कर रही है: अपने इंजीनियर्स से अपने उपयोग नहीं किए जा रहे कंप्यूटर बंद करने को कह रही है।

यह निर्देश अनुपयोगी EC2 उदाहरणों को लक्षित करता है, जो AWS के क्लाउड इंफ्रास्ट्रक्चर की रीढ़ बनाते हैं। AI वर्कलोड्स द्वारा GPU क्षमता को तेजी से खपत किए जाने के कारण, दुनिया का सबसे बड़ा क्लाउड प्रदाता भी संकट में महसूस कर रहा है।

संख्याएँ 30 दिन के मापन अवधि के दौरान लगभग 65% EC2 उदाहरणों की औसत CPU उपयोगता 20% से कम रहने की भयानक अक्षमता की एक छवि बनाती हैं।

AWS का कंप्यूट ऑप्टिमाइज़र टूल इन गॉस्ट सर्वर्स को पकड़ने के लिए अपग्रेड किया गया है। यह अब 14-दिन के पिछले समय अवधि के दौरान CPU उपयोग और नेटवर्क I/O का विश्लेषण करता है, और उन मामलों को चिह्नित करता है जहाँ शीर्ष CPU 5% से कम रहता है और नेटवर्क ट्रैफ़िक नगण्य होता है।

अमेज़न के सीईओ एंडी जैसी ने खुलासा किया कि पिछले वर्ष AWS ने 3.8 गीगावॉट से अधिक बिजली क्षमता जोड़ी। संदर्भ के लिए, यह लगभग 2.8 मिलियन घरों को बिजली प्रदान करने के बराबर है। कंपनी योजना बना रही है कि 2027 तक अपनी क्षमता दोगुनी करे।

क्षमता की कमी का एक स्पष्ट कारण है: कृत्रिम बुद्धिमत्ता। GPU-त्वरित उदाहरण, जो बड़े भाषा मॉडलों के प्रशिक्षण और चलाने के पीछे के कार्यभार हैं, बादल गणना में सबसे कम उपलब्ध संसाधन बन गए हैं।

इस मांग के दबाव ने सीधे कीमतों में अपना प्रभाव दिखाया। मशीन लर्निंग के लिए EC2 कैपेसिटी ब्लॉक्स की कीमत जनवरी में लगभग 15% बढ़ी, और जुलाई तक एक और लगभग 20% की वृद्धि हुई। छह महीनों में एक ही सेवा के लिए दो कीमत वृद्धियाँ आपूर्ति-मांग के असंतुलन को दर्शाती हैं।

जानकारी के अनुसार, लगातार GPU की कमी ने कुछ AWS ग्राहकों को प्रतिस्पर्धी क्लाउड प्रदाताओं पर अपने संचालन स्थानांतरित करने पर विचार करने के लिए मजबूर कर दिया है।

AWS पर कार्यभार चला रहे व्यवसायों के लिए, मूल्य अनुक्रम को ध्यान से देखना चाहिए। एक ही वर्ष में ML क्षमता ब्लॉक पर दो महत्वपूर्ण मूल्य वृद्धि से यह संकेत मिलता है कि जो कंपनियाँ क्लाउड-आधारित AI प्रोसेसिंग पर अधिक निर्भर हैं, उन्हें लगातार लागत वृद्धि के लिए बजट बनाना चाहिए।

65% की अत्यधिक अनुपयोगिता की संख्या केवल AWS की समस्या नहीं है। यह उद्योगभर की आदतों को दर्शाती है, जहाँ एक मौजूदा इंस्टेंस को सही आकार देने की बजाय एक नया इंस्टेंस शुरू करना हमेशा आसान रहा है।

2027 तक अमेज़न की डेटा सेंटर क्षमता दोगुनी करने की योजना कॉर्पोरेट इतिहास में सबसे बड़ी बुनियादी ढांचा निर्माण पहलों में से एक है। लेकिन अब और तब के बीच, कंपनी एक बेल्ट-एंड-सस्पेंडर्स दृष्टिकोण अपना रही है: पहले से मौजूद क्षमता से अधिक उपयोगिता निकालते हुए अधिक क्षमता बनाएं।