एक शोधकर्ता, जो काल्पनिक नाम जेटाइगेस्ट के तहत लिख रहे हैं, ने कहा कि कृत्रिम बुद्धिमत्ता के लिए स्मृति की मांग, वर्तमान में दुनिया द्वारा उत्पादित मात्रा से कई गुना अधिक है। उनके अनुसार, यदि स्मृति निर्माताओं के शेयर को ऐतिहासिक उच्च स्तरों के बजाय कंप्यूट की वास्तविक आवश्यकता के आधार पर मूल्यांकन किया जाए, तो वे वर्तमान स्तरों से दस गुना बढ़ सकते हैं।
जेटाइमस्ट ने एक चौंकाने वाला उदाहरण दिया: पिछले साल सितंबर में माइक्रॉन शेयर्स में $50,000 का निवेश आज लगभग $489,000 के बराबर होगा। उनके अनुसार, कुछ निवेशक डरते हैं कि वे पहले ही इस रुझान को मिस कर चुके हैं, जबकि अन्य डरते हैं कि वे “महत्वपूर्ण प्रतिभागियों द्वारा अपनी पोज़ीशन से बाहर निकलने के लिए उपयोग की जाने वाली तरलता” बन जाएं। विश्लेषक सुझाव देता है कि स्मृति की मांग के अंकगणित के माध्यम से इस अवसर को अलग तरह से देखा जाए।
क्यों मेमोरी बॉटलनेक बन गई है
प्रत्येक एक्सेलरेटर में एक निश्चित रकम हाई-स्पीड मेमोरी, जिसे HBM कहा जाता है, शामिल होती है, जिसे बढ़ाया नहीं जा सकता। विश्लेषक के अनुसार, एक मानक H100 चिप में केवल 80 GB होता है, नवीनतम पीढ़ियों में अधिकतम 192 GB होता है, और भविष्य का B300 288 GB का होगा। यह सीमा यह निर्धारित करती है कि एक एकल एक्सेलरेटर कितने अनुरोधों को संभाल सकता है।
मुख्य भार मॉडल वेट्स से नहीं, बल्कि ऐसे KV कैश से आता है: जो सत्र मेमोरी हर जेनरेट किए गए शब्द के साथ बढ़ती है। जाइटस्टाइज की गणनाओं के अनुसार, 128,000 टोकन कॉन्टेक्स्ट वाला एक सत्र लगभग 20 GB मेमोरी की आवश्यकता होती है। केवल चार ऐसे सत्र एक H100 के संसाधनों को पूरी तरह से समाप्त कर देंगे।
प्रति सत्र मेमोरी उपयोग, संदर्भ खिड़की आकार और प्रति H100 एक्सेलरेटर सत्रों की संख्या पर निर्भर करता है। स्रोत: Zeitgeist
उन उन्नत मॉडल्स के लिए जैसे कि Claude Opus 4.8 या GPT-5.5, आवश्यकता और भी अधिक है: एकल लंबी अनुरोध के लिए 40 GB से 100 GB तक। विश्लेषक के अनुसार, इसीलिए प्रत्येक अतिरिक्त गीगाबाइट मेमोरी सोने के बराबर है, जबकि माइक्रॉन और एसके हाइनिक्स जैसे निर्माता भौतिक रूप से उत्पादन को पर्याप्त तेजी से बढ़ाने में सक्षम नहीं हैं।
एआई एजेंट प्रभाव और मांग अंतर
ज़ैटगेस्ट के अनुसार, मुख्य परिवर्तन साधारण चैटबॉट्स से AI एजेंट्स की ओर है। जबकि एक सामान्य प्रश्न में स्मृति पर लगभग कोई बोझ नहीं पड़ता, एक ऐसा एजेंट जो स्वतंत्र रूप से उपकरणों को कॉल करता है और संदर्भ इकट्ठा करता है, आसानी से 100,000 टोकन या उससे अधिक प्राप्त कर सकता है। एकल ज्ञान कार्यकर्ता जो दस ऐसे एजेंट्स को समानांतर रूप से चलाता है, उसे लगभग 152 GB स्मृति की आवश्यकता होगी।
समानांतर चैट और एजेंटिक सत्रों के दौरान प्रति ज्ञान कर्मचारी द्वारा उपयोग की गई शीर्ष स्मृति। स्रोत: ज़ैटगेस्ट
विश्लेषक ने नोट किया कि दुनिया भर में लगभग 250 मिलियन ज्ञान-आधारित कार्यकर्ता हैं। यदि इस संख्या को समानांतर एजेंटिक सत्रों की संख्या से गुणा किया जाए, तो स्मृति की मांग केवल बढ़ती नहीं है, बल्कि वह “विस्फोट” हो जाती है। उनके अनुमान के अनुसार, प्रति व्यक्ति प्रति दिन 100 एजेंटिक सत्रों के साथ, दुनिया को 2026 में उत्पादित स्मृति की तुलना में लगभग 60 गुना अधिक स्मृति की आवश्यकता होगी।
जाइटस्टाइल ने स्वीकार किया कि एल्गोरिदम समय के साथ मेमोरी के उपयोग को कम कर देंगे, जिसमें नए “ध्यान विधियाँ” लोड को चार से आठ गुना तक कम करने में सक्षम हैं। लेकिन उनके अनुसार, मांग बहुत तेजी से बढ़ रही है: एजेंट साधारण चैट्स को बदल रहे हैं, संदर्भ विंडोज 128,000 से 10 मिलियन टोकन तक विस्तारित हो रही हैं, और प्रत्येक कर्मचारी द्वारा AI का उपयोग शून्य से सैकड़ों सत्रों की ओर बढ़ रहा है।
विश्लेषक के अनुसार, एक ऐसी दुनिया में जहां भाषा मॉडल "दैनिक जीवन के हर पहलू में बुने जाते हैं", स्मृति एक महत्वपूर्ण संसाधन बन जाती है। उनके अनुमान के अनुसार, इसे उत्पादित करने वाली कंपनियां अभूतपूर्व आय अर्जित करेंगी।
SK Hynix, AI मेमोरी की मांग में वृद्धि के साथ सैमसंग को पीछे छोड़ देता है
एआई मेमोरी बूम का पैमाना पहले से ही चिप बाजार को बदल रहा है। दक्षिण कोरियाई मेमोरी निर्माता एसके हाइनिक्स, जो कृत्रिम बुद्धिमत्ता के कार्यभार के लिए उपयोग किए जाने वाले हाई-बैंडविड्थ मेमोरी चिप्स में मजबूत पोज़ीशन रखता है, उसने सैमसंग को देश की सबसे मूल्यवान सूचीबद्ध कंपनी का स्थान दे दिया है।
जेटस्टाइल के लिए, यह बदलाव इस व्यापक थीसिस को समर्थन देता है कि मेमोरी उत्पादक AI इंफ्रास्ट्रक्चर की दौड़ के सबसे बड़े लाभार्थी बनते जा रहे हैं। जैसे-जैसे HBM की मांग आपूर्ति से तेजी से बढ़ रही है, उन कंपनियों को जो उन्नत मेमोरी चिप्स बना सकती हैं, उनकी आय और मूल्यांकन में तेजी से वृद्धि हो सकती है।