अमेज़न ने नविडिया के एआई सॉफ्टवेयर परिप्रेक्ष्य को चुनौती देने के लिए टॉर्चन्यूरॉन लॉन्च किया

अमेज़न वेब सर्विसेज ने मंगलवार को एआई स्टार्टअप्स को अमेज़न के ट्रेनियम चिप्स पर एप्लिकेशन स्थानांतरित करने में मदद करने के लिए टॉर्चन्यूरॉन जारी किया। यह टूल उस सॉफ्टवेयर के लाभ को चुनौती देता है जिसने एनविडिया को एआई एप्लिकेशन्स के लिए डिफ़ॉल्ट हार्डवेयर चॉइस बनाने में मदद की है। अमेज़न के अनुसार, टॉर्चन्यूरॉन के साथ PyTorch के साथ लिखे गए एप्लिकेशन बिना कोड फिर से लिखे केवल एक कॉन्फ़िगरेशन लाइन बदलकर ट्रेनियम पर चल सकते हैं।

PyTorch एक मुफ्त, ओपन-सोर्स टूलकिट है जिसका उपयोग AI मॉडल बनाने, प्रशिक्षित करने और चलाने के लिए किया जाता है। अमेज़न के अनुसार, लगभग 85% AI अनुप्रयोग PyTorch के साथ लिखे गए हैं। फेसबुक ने मूल रूप से PyTorch विकसित किया, जो 2022 से लिनक्स फाउंडेशन का हिस्सा है। लिनक्स फाउंडेशन ओपन-सोर्स प्रोजेक्ट्स का संचालन करता है। Nvidia ने कई वर्षों तक CUDA, जो Nvidia हार्डवेयर पर अनुप्रयोग चलाने के लिए सॉफ्टवेयर इंफ्रास्ट्रक्चर है, को PyTorch अनुप्रयोगों का समर्थन करने के लिए सुनिश्चित किया है। परिणामस्वरूप, Nvidia हार्डवेयर PyTorch में मूल रूप से, लगभग स्वतः ही गहराई से एम्बेडेड हो गया है।

TorchNeuron, PyTorch से अनुकूलित किया गया है, इसलिए PyTorch के परिचित डेवलपर्स पहले से ही TorchNeuron का उपयोग कैसे करें, यह जानते हैं। PyTorch उपयोगकर्ता एक साधारण कॉन्फ़िगरेशन बदलाव के साथ अपने अनुप्रयोगों को AMD GPU या Apple के चिप्स पर स्थानांतरित कर सकते हैं। हालाँकि, अमेज़न का तर्क है कि Trainium पर स्थानांतरित होने से AI स्टार्टअप्स को अमेज़न के पूरे क्लाउड तक पहुँच मिलती है। AWS दावा करता है कि AWS, Coreweave, Nebius और Firmus जैसे Nvidia हार्डवेयर से जुड़े विशेषज्ञ क्लाउड प्रदाताओं की तुलना में स्टार्टअप्स के लिए एक बेहतर विकल्प है।

कोलिन ब्रेस, एडब्ल्यूएस अन्नापूर्णा लैब्स के टेक्नोलॉजी सॉफ्टवेयर के उपाध्यक्ष हैं, जो अमेज़न के कस्टम चिप्स बनाता है। ब्रेस ने कहा कि एडब्ल्यूएस पहले से ही संस्थापकों को प्रोटोटाइप से उत्पादन तक जाने और आवश्यकता पड़ने पर संचालन का विस्तार करने के लिए आवश्यक बुनियादी ढांचा प्रदान करता है। एडब्ल्यूएस का कहना है कि ट्रेनियम मॉडल प्रशिक्षण और निष्कर्षण दोनों को संभालता है, जब समाप्त मॉडल उपयोगकर्ताओं के प्रश्नों के उत्तर देने जैसे कार्य करते हैं। एडब्ल्यूएस का तर्क है कि दोनों कार्यों के लिए एक ही चिप का उपयोग करना, जो क्लाउड बुनियादी ढांचे के साथ संकलित है, स्टार्टअप्स के लिए प्रति टोकन सबसे सस्ती कीमत के बिना भी पैसे बचाएगा। ब्रेस ने कहा कि ट्रेनियम प्रदर्शन-मूल्य और प्रशिक्षण और निष्कर्षण के लिए एकल प्लेटफॉर्म के माध्यम से पूरे कार्यभार में लागत में सुधार करता है। ब्रेस ने कहा कि डीपग्राम ने मूल PyTorch समर्थन का उपयोग करके ट्रेनियम पर स्थानांतरित होने के बाद, उत्पादन-ग्रेड सटीकता पर प्रति डॉलर 70% अधिक ऑडियो प्रोसेस किया है। डीपग्राम AI आवाज़ एप्लिकेशन प्रदान करता है और एलेवनलैब्स के साथ प्रतिस्पर्धा करता है।

अमेज़न का कहना है कि कंपनी पायटॉर्च को एनविडिया पर स्वचालित रूप से केंद्रित होने से कम करने पर भी काम कर रही है। अमेज़न का कहना है कि यह प्रयास को समर्थित करने के लिए मुख्य पायटॉर्च प्रोजेक्ट में कोड योगदान देगी। अमेज़न के घोषणा पत्र में कहा गया है कि कंपनी पायटॉर्च समुदाय के साथ मिलकर उस कोड को हटाने पर काम कर रही है जो फ्रेमवर्क को विशिष्ट चिप्स से जोड़ता है। अमेज़न का कहना है कि लक्ष्य यह है कि पायटॉर्च को सभी डेवलपर्स, केवल ट्रेनियम उपयोगकर्ताओं तक सीमित नहीं, विशिष्ट हार्डवेयर पर कम निर्भर बनाया जाए।

इस प्रयास से Nvidia के साथ प्रतिस्पर्धा करने वाले हार्डवेयर और क्लाउड प्रदाताओं को लाभ होता है। हालाँकि, PyTorch का आंशिक उद्देश्य डेवलपर्स को हार्डवेयर पर AI कोड चलाने की कठिनाइयों से बचाना है। PyTorch की Nvidia पर निर्भरता कम करने से Amazon के वादे के अनुसार अधिक विकल्प और अधिक सस्ते विकल्प मिल सकते हैं, या फिर अधिक कॉन्फ़िगरेशन की कठिनाइयाँ पैदा हो सकती हैं। PyTorch को Nvidia से सफलतापूर्वक अलग करने से Nvidia के लिए केवल अन्य चिप निर्माताओं की प्रतिस्पर्धा से अधिक परिणाम हो सकते हैं। Brace ने इस प्रयास को उन प्रतिबंधों को हटाने के रूप में वर्णित किया, जिनके कारण डेवलपर्स को वास्तविक विकल्प नहीं मिल पा रहे थे।