AWS re:Invent 2025 पर, AWS के सीईओ मैट गारमैन ने एक सरल लेकिन महत्वपूर्ण डेटा बिंदु प्रस्तुत किया: AI इन्फरेंस अब सभी AI कंप्यूट डिमांड का लगभग दो-तिहाई हिस्सा बन गया है। यह 2023 में लगभग एक-तिहाई से बढ़कर ऐसा हुआ है।
प्रशिक्षण एक मॉडल को सोचना सिखाना है। निष्कर्ष निकालना वास्तव में इसे सोचना करना है। उद्योग ने इन मॉडलों को सिखाने पर अरबों खर्च किए हैं, और अब खर्च उन्हें काम पर लगाने की ओर बढ़ रहा है।
गर्मन, जिन्होंने जून 2024 में एडम सेलिप्स्की के स्थान पर एडब्ल्यूएस के सीईओ का पद संभाला, ने इन्फरेंस को कंप्यूटिंग में "एक नया लेगो" बताया। वह कह रहे हैं कि इन्फरेंस एक ऐसा बुनियादी बुनियादी घटक बन रहा है जिसे उद्यम अपने कार्यों को स्वचालित करने, एआई एजेंट्स चलाने और व्यवसायों के संचालन के तरीके को मूल रूप से बदलने के लिए आपस में जोड़ेंगे।
उन्होंने आगे कहा कि उद्यमिक एआई का 80-90% मूल्य अंततः निष्कर्षण-सक्षम एजेंट्स से आएगा। आपके ईमेल सारांशित करने वाले चैटबॉट्स नहीं, बल्कि स्वतंत्र प्रणालियाँ जो वास्तविक कार्य पूरा करती हैं।
AWS इस निवेश के पीछे हार्डवेयर भी लगा रहा है। कंपनी ने re:Invent पर Trainium3 चिप्स का प्रदर्शन किया, जो ट्रेनिंग-अनुकूलित GPU के बजाय निष्कर्षण कार्यभार के लिए विशेष रूप से बनाई गई हैं, जो अब तक समाचारों और Nvidia की आय रिपोर्ट्स का केंद्र रही हैं।
यह बदलाव क्रिप्टो माइनिंग क्षेत्र के लिए बहुत महत्वपूर्ण है, जो अपने स्वयं के पहचान संकट के बीच में था। अप्रैल 2024 के हाल्विंग के बाद बिटकॉइन माइनिंग मार्जिन संकुचित हो गए, जिसके परिणामस्वरूप कई प्रमुख माइनर्स एआई और हाई-परफॉरमेंस कंप्यूटिंग सेवाएं प्रदान करने की ओर मुड़ गए। कोर साइंटिफिक, हट 8 और अन्य कंपनियाँ अपनी GPU फ्लीट और डेटा सेंटर क्षमता को एआई प्रशिक्षण के कार्यभारों को सेवा प्रदान करने के लिए पुनः उद्देश्य दे रही हैं।
लेकिन अगर गार्मन सही हैं, और मांग वक्र निष्कर्ष निकालने की ओर कड़ी तरह से मुड़ रहा है, तो हार्डवेयर की आवश्यकताएं बदल जाती हैं। प्रशिक्षण के लिए सप्ताहों या महीनों तक शीर्ष स्तर के GPU के क्लस्टर पर विशाल समानांतर प्रोसेसिंग की आवश्यकता होती है। निष्कर्ष निकालने के लिए अलग अनुकूलन की आवश्यकता होती है: कम लेटेंसी, प्रति क्वेरी उच्च थ्रूपुट, और अक्सर पूरी तरह से अलग चिप आर्किटेक्चर।
क्रिप्टो-नेटिव निवेशकों के लिए, यह संकेत “AI पिवट” थीसिस की स्थायित्व के बारे में है, जिसने कई माइनिंग स्टॉक्स को समर्थन दिया है। उन माइनिंग कंपनियों पर नजर रखें जो क्लाउड प्रोवाइडर्स के साथ भागीदारी घोषित करती हैं या इन्फरेंस-अनुकूलित हार्डवेयर में निवेश करती हैं। जो कंपनियाँ अभी भी प्रशिक्षण के लिए सामान्य GPU एक्सेस का प्रचार कर रही हैं, वे उस मांग वक्र के गलत पक्ष पर पा सकती हैं जो पहले ही बदल चुका है।
डिसेंट्रलाइज्ड कंप्यूट नेटवर्क जैसे Render, Akash और io.net ने AI कार्यभार के लिए केंद्रीकृत क्लाउड प्रदाताओं के विकल्प के रूप में अपनी स्थिति बनाई है। यदि अनुमान की मांग गरमैन द्वारा वर्णित दर से बढ़ रही है, तो इन प्रोटोकॉल्स का उपयोग बढ़ सकता है, लेकिन केवल तभी अगर वे अनुमान के लिए आवश्यक निम्न-लेटेंसी, उच्च-विश्वसनीयता सेवा प्रदान कर सकें। प्रशिक्षण के लिए नेटवर्क की समस्याएं सहनीय हैं। अनुमान के लिए नहीं।