लेखक: शियाओबिंग
8 जून को, AMD ने टोरंटो स्थित चिप कंपनी Taalas का अधिग्रहण करने की घोषणा की, जिसकी लेनदेन की कीमत खुलासा नहीं की गई। यह 2023 में स्थापित और 219 मिलियन डॉलर की कुल फंडिंग प्राप्त करने वाली स्टार्टअप कंपनी ने एक ऐसा काम किया जो थोड़ा पागलपन लगता है: AI मॉडल के वेट्स को सीधे चिप की धातु परत में जला दिया गया, जिससे केवल एक ही मॉडल चलाने के लिए विशेष चिप बन गई।
GPU कार्य करते समय मॉडल पैरामीटर्स को हाई-बैंडविड्थ मेमोरी (HBM) में स्टोर करता है और इन्फरेंस के दौरान डेटा को कैलकुलेशन यूनिट में बार-बार ले जाता और वापस ले आता है। यह "ले जाने" की प्रक्रिया ऊर्जा और समय का बड़ा हिस्सा खपत करती है, जिसे उद्योग "मेमोरी वॉल" कहता है। Taalas का दृष्टिकोण है कि इस "ले जाने" को पूरी तरह से समाप्त कर दिया जाए, जिसमें वेट्स को चिप के ट्रांजिस्टर में स्थिर कर दिया जाता है, जिससे स्टोरेज और कैलकुलेशन एक साथ हो जाते हैं।
इस चिप की कीमत यह है कि यह केवल एक मॉडल ही चला सकती है, लाभ यह है कि गति और ऊर्जा कुशलता में क्रम की छलांग होती है।
17000 टोकन प्रति सेकंड का क्या अर्थ है?
Taalas का तकनीकी प्रमाणीकरण चिप HC1, TSMC के 6nm प्रक्रिया पर आधारित है, 815 वर्ग मिमी के कोर क्षेत्रफल और 530 अरब ट्रांजिस्टर के साथ, और इसमें Meta का Llama 3.1 8B मॉडल शामिल है।
HC1 का प्रदर्शन डेटा: एक उपयोगकर्ता के लिए लगभग 17,000 टोकन/सेकंड। तुलना के लिए, Nvidia H200 एक ही मॉडल पर लगभग 230 टोकन/सेकंड और H100 लगभग 150 टोकन/सेकंड प्रदान करता है। 73 गुना की गति का अंतर, जबकि बिजली खपत केवल दूसरे का दसवां हिस्सा है।
अधिक स्पष्ट आर्थिक विश्लेषण: तालस द्वारा घोषित निष्कर्षण लागत लगभग प्रति मिलियन टोकन 0.75 सेंट (Llama 8B) है, जबकि GPU समाधान 20 से 49 सेंट के बीच है। प्रत्येक HC1 कार्ड की शक्ति खपत 250W है, और एक मानक हवा-शीतलित रैक में 10 कार्ड लगाने पर केवल 12-15 KW की आवश्यकता होती है, जिसके लिए तरल शीतलन की आवश्यकता नहीं होती, जबकि GPU रैक 120-600 KW तक की शक्ति खपत करते हैं।
फॉरब्स विश्लेषक कार्ल फ्रेंड ने फरवरी में आकलन के दौरान कहा: "सबसे तेज निष्कर्षण प्लेटफॉर्म (Cerebras वाफर-स्तरीय इंजन) से 10 गुना तेज, GPU से दो घातांक तक तेज।"
लेकिन कुछ महत्वपूर्ण सीमाएँ हैं। HC1, Taalas द्वारा स्वयं विकसित 3-बिट डेटा फॉर्मेट के साथ 6-बिट पैरामीटर का उपयोग करता है, जिससे क्वांटाइजेशन बहुत अधिक होता है और जटिल निष्कर्षण कार्यों पर गुणवत्ता में कमी निश्चित रूप से मौजूद है। 17000 टोकन/सेकंड का डेटा 1K इनपुट/1K आउटपुट के विक्रेता बेंचमार्क से आता है, जो उत्पादन पर्यावरण की वास्तविक प्रदर्शन क्षमता का प्रतिनिधित्व नहीं करता। इसके अलावा, Llama 3.1 8B 2024 के मध्य में जारी किया गया मॉडल है, और 8B पैरामीटर के क्वांटाइज्ड संस्करण को यहां तक कि रेज़बरी पाई 5 पर चलाया जा सकता है। HC1 एक संरचना की संभावनाओं को दर्शाता है, न कि परिपक्व उत्पाद की प्रतिस्पर्धात्मकता।
मॉडल के अपग्रेड का क्या करें?
चिप में मॉडल बर्न करने का सबसे सीधा प्रश्न यह है: अगर मॉडल अपडेट हो जाए, तो क्या चिप बेकार हो जाएगी?
Taalas का जवाब है: नहीं, इसे बंद नहीं किया जाएगा। पारंपरिक ASIC डिजाइन चक्र दो साल से अधिक का होता है। Taalas ने एक स्वचालित डिजाइन प्रक्रिया विकसित की है, जिसमें केवल चिप के शीर्ष स्तर पर कुछ धातु मास्क में परिवर्तन करके नए मॉडल को नए चिप में कंपाइल किया जा सकता है, जिसका चक्र लगभग 8 सप्ताह का होता है। कंपनी ने अपने लागत मॉडल में 4 वर्षों के जीवनकाल के दौरान 3 बार चिप अपडेट की लागत को शामिल किया है।
यह उत्तर कुछ चिंता को दूर कर सकता है, लेकिन पूरी तरह से नहीं।
GPU की लचीलापन यह है कि एक ही कार्ड आज Llama चला सकती है, कल Claude चला सकती है, और परसों एक अभी तक जारी नहीं हुआ नया मॉडल चला सकती है। Taalas का चिप इस काम को नहीं कर सकता। यदि कोई ग्राहक एक साथ कई मॉडल सेवाओं की आवश्यकता रखता है (जो उत्पादन परिवेश में बहुत सामान्य है), तो प्रत्येक मॉडल के लिए अलग-अलग चिप की आवश्यकता होगी, जिससे स्टॉक प्रबंधन और ऑपरेशनल जटिलता बढ़ जाती है।
HC2 का विकास चल रहा है, जिसका लक्ष्य लगभग 20 अरब पैरामीटर के मॉडल को 4-बिट फ्लोटिंग पॉइंट के साथ सटीकता बढ़ाना है। तालास ने मूल रूप से 2026 के अंत तक अग्रणी स्तर के मॉडल का समर्थन प्राप्त करने की योजना बनाई थी।
AMD के अधिग्रहण से Instinct GPU उत्पाद रेखा और Helios रैक सिस्टम के बीच समन्वय हुआ है, जिससे ग्राहक GPU का उपयोग लचीले और अनियमित कार्यभारों के लिए कर सकते हैं और Taalas चिप का उपयोग स्थिर, उच्च आवृत्ति वाले एकल मॉडल निष्कर्षण के लिए कर सकते हैं।
रीजनिंग चिप्स की सैन्य प्रतिस्पर्धा
AMD ने Taalas का अधिग्रहण किया है, जो उद्योग के संदर्भ में पिछले 8 महीनों की निष्कर्षण चिप अधिग्रहण लहर की सबसे हालिया घटना है।
2025 के दिसंबर में, Nvidia ने Groq को 200 बिलियन डॉलर में अधिग्रहित किया, जिससे SRAM आधारित लो-लेटेंसी इन्फरेंस आर्किटेक्चर पर कब्जा हो गया।
मई 2026 में, सेरेब्रास ने लगभग 560 अरब डॉलर के बाजार मूल्य के साथ आईपीओ किया, जो 2020 के स्नोफ्लेक के बाद सबसे बड़ा टेक आईपीओ बन गया।
जून में, एटच्ड ने दो साल से अधिक की गुप्त अवधि के बाद अपना पहला Transformer विशिष्ट चिप टाइवेन इलेक्ट्रॉनिक्स N4P प्रक्रिया पर सफलतापूर्वक फैब्रिकेट किए जाने की घोषणा की, जिसके साथ उनके पास 10 अरब डॉलर से अधिक के ग्राहक अनुबंध हैं। रिपोर्ट्स के अनुसार, Intel ने SambaNova के साथ अधिग्रहण की इच्छा पत्र पर हस्ताक्षर किए हैं, और Qualcomm Tenstorrent के संपर्क में है।
ये लेनदेन एक ही निष्कर्ष की ओर इशारा करते हैं: निष्कर्ष निकालना AI कैलकुलेशन खर्च का मुख्य क्षेत्र बन रहा है।
अनुमान है कि 2026 तक रीजनिंग AI कॉम्प्यूटिंग खर्च का दो-तिहाई हो जाएगा, और 2030 तक विशिष्ट रीजनिंग ASIC 45% रीजनिंग बाजार पर कब्जा कर सकते हैं। Nvidia के GPU अभी भी ट्रेनिंग पर शासन करते हैं, लेकिन रीजनिंग पर, उनकी सामान्य आर्किटेक्चर का सामना विभिन्न दिशाओं से आ रहे विशिष्ट चिप्स से हो रहा है।
Taalas इस स्पेक्ट्रम के सबसे चरम छोर पर है: यह "क्लास वन मॉडल" की सार्वभौमिकता तक को छोड़ देता है और सीधे "एक मॉडल" के लिए विशिष्ट चिप बनाता है।
Groq SRAM का उपयोग करके मेमोरी वॉल को लांघता है, Cerebras वेफर-स्तरीय क्षेत्रफल का उपयोग करके बलपूर्वक बाधा को तोड़ता है, Etched केवल Transformer आर्किटेक्चर के लिए अनुकूलित है, और Taalas का जुआ और भी अधिक जोखिम भरा है: यह यह मानता है कि AI मॉडल समय के साथ स्थिर हो जाएंगे, जैसे कि संचार प्रोटोकॉल अंततः कुछ मानकों पर समायोजित हो जाते हैं। जब मॉडल महीने में बदलने लगेंगे, तो कुछ सबसे लोकप्रिय मॉडल के लिए अलग-अलग डेडिकेटेड चिप्स बनाना आर्थिक रूप से लाभदायक होगा।
मॉडल के "जम जाने" पर बेट लगाएं
AMD के सीनियर वाइस प्रेसिडेंट वम्सी बोप्पना ने घोषणा में कहा कि अधिग्रहण का उद्देश्य ग्राहकों को "प्रत्येक AI वर्कलोड के लिए आदर्श कंप्यूटिंग सॉल्यूशन" प्रदान करना है। इसका प्रतिस्पर्धी रणनीति के रूप में अर्थ है: GPU लचीलापन के लिए, Taalas चिप अत्यधिक कुशलता के लिए, और ग्राहक अपनी आवश्यकतानुसार संयोजन करते हैं।
इस संयोजन तर्क की वैधता एक मूलभूत मान्यता पर निर्भर करती है: क्या AI मॉडल के अपडेट चक्र धीमे हो जाएंगे?
अगर बड़े मॉडल हर कुछ महीनों में आर्किटेक्चर-लेवल के अपडेट्स के साथ आते रहते हैं, तो वेट्स को सिलिकॉन में बर्न करने का तरीका बिल्कुल रेत पर कंक्रीट ढालने जैसा है—चिप अभी अपना लागत वापस नहीं कर पाई होगी, जब तक मॉडल पुराना हो चुका होगा। लेकिन अगर मॉडल क्षमताएँ संगठित होने लगें और शीर्ष मॉडल्स का एक-दो साल तक स्थिर सेवा प्रदान करना सामान्य हो जाए, तो तालास जैसी विशिष्ट चिप्स संचार उद्योग के बेसबैंड चिप्स की तरह, अचानक के प्रयोग से स्वाभाविक विकल्प बन जाएँगी।
पिछले 12 महीनों को देखें, तो मॉडल अपडेट की गति में सूक्ष्म परिवर्तन आया है। Llama श्रृंखला 3.1 से 3.2 और फिर 4 तक के अंतराल बढ़ रहे हैं, जबकि GPT 4 से 4o और फिर 5 तक के आर्किटेक्चर में परिवर्तन का पैमाना संकुचित हो रहा है। अधिकांश नए मॉडल वर्तमान आर्किटेक्चर पर डिस्टिलेशन, क्वांटाइजेशन और फाइन-ट्यूनिंग के माध्यम से विकसित किए जा रहे हैं, और बेस मॉडल का अपग्रेड धीमा हो रहा है।
अगर यह रुझान जारी रहा, तो तालस सही था।