टेथर ने स्मार्टफोन मॉडल ट्रेनिंग के लिए एआई फ्रेमवर्क लॉन्च किया

मुख्य बिंदु

• टेथर ने स्मार्टफोन पर बड़े भाषा मॉडल प्रशिक्षण के लिए एक ढांचा पेश किया।
• प्रणाली ने बाइटनेट आर्किटेक्चर और लोरा फाइन-ट्यूनिंग का उपयोग किया ताकि गणना की आवश्यकताओं को कम किया जा सके।
• क्रिप्टो कंपनियों ने AI बुनियादी ढांचे और उच्च प्रदर्शन गणना पर खर्च बढ़ाया।

टेथर ने मंगलवार को एक नया कृत्रिम बुद्धिमत्ता प्रशिक्षण ढांचा जारी किया जो बड़े भाषा मॉडल को उपभोक्ता हार्डवेयर पर चलाने और सूक्ष्म समायोजित करने की अनुमति देता है। यह प्रणाली कंपनी के QVAC प्लेटफॉर्म का हिस्सा थी और स्मार्टफोन के साथ-साथ कई गैर-नविडिया प्रोसेसर्स का समर्थन करती थी। इंजीनियरों ने इस ढांचे को कम याददाश्त की आवश्यकता को कम करने के लिए डिज़ाइन किया, जिससे भाषा मॉडल बनाने और परीक्षण करने की लागत में बाधा कम हुई।

लॉन्च का आयोजन तब हुआ, जब क्रिप्टो इंफ्रास्ट्रक्चर कंपनियाँ कृत्रिम बुद्धिमत्ता विकास और कंप्यूट के बाजार में गहराई से शामिल हो रही थीं। बाजार मूल्य के हिसाब से सबसे बड़े स्टेबलकॉइन के जारीकर्ता टेथर ने इस रिलीज़ को मशीन-लर्निंग क्षमताओं को विकेंद्रीकृत करने का प्रयास बताया। कंपनी ने तर्क दिया कि व्यापक रूप से उपलब्ध हार्डवेयर पर मॉडल प्रशिक्षण सक्षम करने से केंद्रीकृत क्लाउड प्रदाताओं पर निर्भरता कम हो सकती है।

टेथर के घोषणा पत्र में इस ढांचे को माइक्रोसॉफ्ट के बिटनेट आर्किटेक्चर पर बनाए गए ट्रेनिंग वातावरण के रूप में वर्णित किया गया। इस डिज़ाइन में एक-बिट न्यूरल नेटवर्क संरचनाओं को LoRA फाइन-ट्यूनिंग विधियों के साथ मिलाया गया, जिससे डेवलपर्स मॉडल्स को समायोजित कर सकते हैं जबकि कंप्यूटिंग मांग कम रखी जा सके।

कंपनी के इंजीनियरों ने कहा कि प्रणाली ने स्मार्टफोन पर एक अरब पैरामीटर तक के भाषा मॉडल को दो घंटे से कम समय में प्रशिक्षित किया। रिपोर्ट के अनुसार, इसी दृष्टिकोण के माध्यम से अनुकूलित करने पर छोटे मॉडल ने कुछ ही मिनटों में प्रशिक्षण पूरा कर लिया। कंपनी ने यह भी बताया कि प्लेटफॉर्म मोबाइल उपकरणों पर तेरह अरब पैरामीटर तक के मॉडल का समर्थन करता है।

इंजीनियरों ने प्रणाली को Nvidia चिप्स पर निर्भर न होकर कई हार्डवेयर परितंत्रों में काम करने के लिए बनाया। यह फ्रेमवर्क AMD प्रोसेसर, Intel आर्किटेक्चर, Apple Silicon सिस्टम और Qualcomm और Apple के मोबाइल ग्राफिक्स प्रोसेसर्स का समर्थन करता था। यह संगतता मशीन-लर्निंग प्रयोगों तक पहुँच को पारंपरिक उच्च-प्रदर्शन कंप्यूटिंग क्लस्टर्स से आगे बढ़ाती है।

तकनीकी डिज़ाइन ने मानक मॉडलों की तुलना में ग्राफिक्स मेमोरी की आवश्यकताओं को भी कम किया। आंतरिक इंजीनियरिंग परिणामों से पता चला कि बिटनेट आर्किटेक्चर ने तुलनात्मक 16-बिट प्रणालियों की तुलना में VRAM उपयोग में अधिकतम 77.8% की कमी की।

टेथर ने कहा कि इस आर्किटेक्चर ने Nvidia परितंत्र के बाहर हार्डवेयर पर LoRA फाइन-ट्यूनिंग को सक्षम बनाया। विकासकर्ताओं ने पारंपरिक रूप से ट्रेनिंग वर्कलोड के लिए Nvidia ग्राफिक्स प्रोसेसर पर निर्भरता रखी क्योंकि ये चिप्स बड़े टेंसर कैलकुलेशन को कुशलता से संभालते थे। टेथर के इंजीनियर्स ने वैकल्पिक प्रोसेसर पर लो-बिट ट्रेनिंग विधियों को सक्षम करके उस सीमा को हटाने का प्रयास किया।

कंपनी ने तर्क दिया कि आर्किटेक्चर ने मोबाइल कार्यभार के लिए निष्कर्ष गति में भी सुधार किया। परीक्षणों से पता चला कि मोबाइल ग्राफिक्स प्रोसेसर्स बिटनेट मॉडल्स को सामान्य सेंट्रल प्रोसेसिंग यूनिट्स की तुलना में कई गुना तेजी से प्रोसेस करते हैं। इस अंतर के कारण मॉडल्स स्थानीय रूप से हैंडहेल्ड उपकरणों पर चल सकते हैं, बजाय रिमोट क्लाउड इंफ्रास्ट्रक्चर की आवश्यकता के।

विकासकों ने प्रणाली के भीतर वितरित मशीन-लर्निंग विधियों का भी अन्वेषण किया। टेथर ने फेडरेटेड लर्निंग मॉडल्स के लिए संभावित उपयोगों का वर्णन किया, जो स्वतंत्र उपकरणों के नेटवर्क के माध्यम से अपडेट होते हैं। उस संरचना के अंतर्गत, मॉडल स्थानीय डेटा से सीखते हैं, जबकि प्रत्येक उपकरण पर जानकारी को बनाए रखते हैं और इसे केंद्रीय सर्वरों पर अपलोड नहीं करते हैं।

कंपनी ने सुझाव दिया कि यह दृष्टिकोण गोपनीयता-केंद्रित प्रशिक्षण वातावरणों का समर्थन कर सकता है। डेटा स्थानीय रूप से रहा, जबकि केवल मॉडल अपडेट्स को नेटवर्क के माध्यम से स्थानांतरित किया गया। वह आर्किटेक्चर डिसेंट्रलाइज्ड कंप्यूटिंग सिस्टम और वितरित क्रिप्टोग्राफिक नेटवर्क्स के भीतर देखे जाने वाले प्रवृत्तियों के अनुरूप था।

डिजिटल संपत्ति क्षेत्र में बाजार गतिविधि ने कृत्रिम बुद्धिमत्ता बुनियादी ढांचे में निवेश में वृद्धि दिखाई। क्रिप्टो कंपनियाँ अब ब्लॉकचेन संचालन के लिए मूल रूप से बनाए गए कंप्यूटिंग क्षमता को मशीन-लर्निंग कार्यभारों के लिए पुनः उपयोग कर रही हैं।

जारी किए गए दस्तावेजों में पता चला कि प्रौद्योगिकी कंपनियों ने कृत्रिम बुद्धिमत्ता की मांग से जुड़ी कंप्यूटिंग पावर को सुरक्षित करने के लिए भागीदारी की। सितंबर में घोषित एक समझौते के तहत, गूगल को साइफर माइनिंग में $3 बिलियन के मूल्य वाले 10-वर्षीय समझौते के हिस्से के रूप में एक अल्पसंख्यक हिस्सेदारी मिली। इस व्यवस्था ने डेटा सेंटर क्षमता को कृत्रिम बुद्धिमत्ता प्रोसेसिंग की आवश्यकताओं से जोड़ दिया।

कॉर्पोरेट घोषणाओं में बाद में यह बताया गया कि बिटकॉइन माइनिंग कंपनियों ने भी पूंजी को मशीन-लर्निंग सेवाओं की ओर रीडायरेक्ट कर दिया। दिसंबर में, माइनर IREN ने कृत्रिम बुद्धिमत्ता संचालन के लिए बुनियादी ढांचे का विस्तार करने के लिए लगभग 3.6 अरब डॉलर जुटाने की योजना का खुलासा किया।

वर्ष की शुरुआत में कॉर्पोरेट आय रिपोर्ट्स ने एक ही प्रवृत्ति को मजबूत किया। हाइव डिजिटल टेक्नोलॉजीज ने अपनी हाई-परफॉर्मेंस कंप्यूटिंग सेवाओं के विस्तार के बाद $93.1 मिलियन की आय रिपोर्ट की। लगभग उसी समय, कोर साइंटिफिक ने अपनी कंप्यूटिंग बुनियादी ढांचे में वृद्धि के समर्थन के लिए मॉर्गन स्टेनले से $500 मिलियन का ऋण सुविधा प्राप्त की।

डेवलपर्स ने ब्लॉकचेन इंफ्रास्ट्रक्चर के साथ एक्सीक्यूटेबल कृत्रिम बुद्धिमत्ता एजेंट्स के साथ प्रयोग भी किया। कॉइनबेस ने वॉलेट टूल्स लॉन्च किए जो सॉफ्टवेयर एजेंट्स को ऑन-चेन पर सीधे लेनदेन करने की अनुमति देते हैं। एल्केमी ने सेवाएं पेश कीं जो एजेंट्स को ब्लॉकचेन डेटा तक पहुँचने की अनुमति देती हैं, जबकि भुगतान स्टेबलकॉइन इंफ्रास्ट्रक्चर के माध्यम से सेटल होते हैं।

पहचान नेटवर्कों ने कृत्रिम बुद्धिमत्ता प्रणालियों और डिजिटल प्रमाणीकरण के बीच संबंध का भी अध्ययन किया। ओपनएआई के मुख्य सैम आल्टमैन द्वारा सह-स्थापित वर्ल्ड, पिछले हफ्ते एजेंटकिट जारी किया। यह टूलकिट सॉफ्टवेयर एजेंट्स को वर्ल्ड आईडी सिस्टम के माध्यम से अपना एकल मानव पहचान से संबंध सत्यापित करने की अनुमति देता है।

टेथर का नवीनतम ढांचा उसी बढ़ते हुए क्षेत्र में प्रवेश किया है, जहां कंप्यूटिंग संसाधन, मशीन लर्निंग और ब्लॉकचेन प्रणालियाँ प्रतिच्छेदित होती हैं।

कंपनी ने कहा कि डेवलपर्स बिना केंद्रीकृत सर्वरों पर निर्भर किए डिस्ट्रीब्यूटेड एप्लिकेशन और स्थानीय उपकरणों में प्रशिक्षण उपकरणों का एकीकरण कर सकते हैं।

टेथर के कृत्रिम बुद्धिमत्ता ढांचे के लिए अगला विकास विकासकों के अपनाने और उपकरण-स्तरीय प्रदर्शन परीक्षण पर निर्भर करेगा। इंजीनियर अगली रिलीज के दौरान QVAC प्लेटफॉर्म कैसे वितरित उपभोक्ता हार्डवेयर पर बड़े मॉडल्स को संभालते हैं, इसे संभवतः निगरानी करेंगे।

पोस्ट Tether Unveils AI Framework Enabling Model Training on Smartphones पहले The Coin Republic पर दिखाई दी।