- टेथर का टर्बोक्वांट AI के लिए मेमोरी के उपयोग को अधिकतम 5 गुना तक कम करता है, जिससे डिवाइस स्थानीय रूप से लंबे कार्यों को संभाल सकते हैं।
- QVAC 0.12.0 डेवलपर्स को कम मेमोरी स्ट्रेन के साथ लैपटॉप और फोन पर बड़े AI वर्कलोड चलाने की अनुमति देता है।
- टर्बोक्वांट AI के मेमोरी बॉटलनेक को हल करता है, जिससे लंबे चैट्स, बड़ी फाइलों और बड़े कोड प्रोजेक्ट्स संभव होते हैं।
टेथर ने QVAC SDK 0.12.0 में एक नया मेमोरी ऑप्टिमाइजेशन टूल जोड़ा है, जिससे लैपटॉप, स्मार्टफोन और अन्य उपकरणों को स्थानीय रूप से बड़े कार्यभार को संभालने में मदद मिल सकती है। X पर अपडेट की घोषणा करते हुए सीईओ पाओलो आर्डोइनो ने कहा कि इस रिलीज़ में टर्बोक्वांट शामिल है, जो लगभग समान आउटपुट क्वालिटी बनाए रखते हुए AI मेमोरी की आवश्यकता को अधिकतम पांच गुना तक कम करता है।
अपडेट बड़े भाषा मॉडल के लिए एक महत्वपूर्ण सीमा पर केंद्रित है: मेमोरी। जैसे-जैसे बातचीत और कार्य लंबे होते जाते हैं, मेमोरी की मांग तेजी से बढ़ती है। टर्बोक्वांट इस बोझ को कम करता है, जिससे डिवाइस एक साथ बड़े दस्तावेजों, लंबी बातचीतों और अधिक जानकारी के साथ काम कर सकते हैं।
इस रिलीज़ में टेक्स्ट-टू-वीडियो जनरेशन, रोबोट नियंत्रण सुविधाएँ, कोडिंग असिस्टेंट समर्थन, वॉइस प्रोसेसिंग अपग्रेड और तेज़ इमेज क्लासिफिकेशन टूल्स भी जोड़े गए हैं।
टर्बोक्वांट AI के मेमोरी बॉटलनेक पर लक्षित है
टर्बोक्वांट QVAC SDK 0.12.0 रिलीज का केंद्र है। यह तकनीक KV कैश को संपीड़ित करती है, जो एक प्रकार की कार्यस्मृति है जिसे AI मॉडल एक सत्र के दौरान संवादों, दस्तावेजों और अन्य जानकारी को ट्रैक रखने के लिए उपयोग करते हैं।
जब उपयोगकर्ता एक मॉडल में अधिक जानकारी डालते हैं, तो स्मृति की मांग बढ़ जाती है। टेदर ने कहा कि लगभग 262,000 टोकन्स को प्रोसेस करने वाला 4-अरब पैरामीटर मॉडल केवल कैश के लिए लगभग 8 जीबी स्मृति की आवश्यकता हो सकती है। उस स्केल पर कई सत्र चलाने से कई लैपटॉप और उपभोक्ता उपकरणों की सीमाओं को जल्दी पार कर दिया जा सकता है।
टर्बोक्वांट इस दबाव को कम करने का लक्ष्य रखता है। टेटर के अनुसार, यह प्रौद्योगिकी KV कैश मेमोरी की आवश्यकताओं को लगभग पांच गुना तक कम कर सकती है जबकि लगभग समान आउटपुट गुणवत्ता को बनाए रखती है। परिणामस्वरूप, उपयोगकर्ता लंबी बातचीत, बड़े दस्तावेज़ और बड़े कोडबेस के साथ काम कर सकते हैं बिना दूरस्थ कंप्यूटिंग संसाधनों पर इतना अधिक निर्भर होए।
QVAC भाषा मॉडलों के बाहर विस्तार करता है
अपडेट में केवल मेमोरी सुधार ही शामिल नहीं हैं। QVAC SDK 0.12.0 में कई नए टूल्स जोड़े गए हैं जो डेवलपर्स को स्थानीय उपकरणों पर चलाए जा सकने वाले कार्यों को बढ़ाने के लिए डिज़ाइन किए गए हैं।
जोड़े गए फीचर्स में Wan2.1 मॉडल के माध्यम से टेक्स्ट-टू-वीडियो जनरेशन का समर्थन शामिल है। यह प्लेटफॉर्म एक विजन-लैंग्वेज-एक्शन सुविधा भी पेश करता है जो डेवलपर्स को रोबोटिक कंट्रोल के लिए एप्लिकेशन बनाने की अनुमति देती है।
रिलीज़ ने एक हल्का चित्र वर्गीकरण उपकरण भी जोड़ा है जो ऐसे कार्यों के लिए डिज़ाइन किया गया है जिनके लिए बड़े दृश्य मॉडल की आवश्यकता नहीं होती। इसी समय, QVAC ने अपने टेक्स्ट-टू-स्पीच और ट्रांसक्रिप्शन सिस्टम को अपने GGML इंजन पर स्थानांतरित कर दिया, जिससे प्रमुख डेस्कटॉप और मोबाइल ऑपरेटिंग सिस्टम पर समर्थन विस्तारित हुआ।
डेवलपर्स को कोडिंग सहायक के लिए नए विकल्प भी प्राप्त हुए। QVAC अब मॉडल प्रबंधन और डिप्लॉयमेंट को सरल बनाने वाले प्रोवाइडर पैकेज के माध्यम से OpenCode और OpenClaw के साथ एकीकृत है।
संबंधित: मल्टीकॉइन के सह-संस्थापक ने क्रिप्टो पहचान संकट के बीच 'वेब3 मर चुका है' की घोषणा की
ओपन-सोर्स एआई एज की ओर बढ़ रहा है
रिलीज दर्शाता है कि Tether अपने उपयोगकर्ताओं के उपकरणों पर कंप्यूटिंग कार्यों को अधिक से अधिक सीधे चलाने पर ध्यान केंद्रित कर रहा है, बजाय पूरी तरह से केंद्रीकृत डेटा केंद्रों पर निर्भर करने के। कंपनी ऐसे सॉफ्टवेयर पर बढ़ते हुए ध्यान केंद्रित कर रही है जो व्यक्तिगत उपकरणों, स्थानीय नेटवर्कों और विकेंद्रीकृत प्रणालियों पर काम कर सके।
"गूगल के शोध ने दर्शाया कि एआई मेमोरी को अधिकांश लोगों की कल्पना से कहीं अधिक कुशलता से संपीड़ित किया जा सकता है। हमारा कार्य इस क्रांतिकारी उपलब्धि को उत्पादन सॉफ्टवेयर में लाता है, जिसके साथ डेवलपर्स, स्टार्टअप और उपयोगकर्ता वास्तव में बना सकते हैं," अर्डोइनो ने कहा।
उन्होंने कहा, “लोगों को एक एआई सहायक से एक लंबा दस्तावेज पढ़ने, किसी प्रोजेक्ट को याद रखने, कोड में मदद करने या निजी जानकारी के साथ काम करने की अनुमति होनी चाहिए, बिना इन सभी कार्यों को दूरस्थ डेटा सेंटर से गुजारे जाने के।”
लॉन्च तब आया है जब टेस्टर अपने प्रयासों को मेमोरी ऑप्टिमाइजेशन टूल्स के बाहर विस्तारित कर रहा है। आर्डोइनो ने हाल ही में खुलासा किया कि कंपनी एक ओपन-सोर्स पीयर-टू-पीयर सर्च इंजन विकसित कर रही है और एक डिसेंट्रलाइज्ड विकिपीडिया सर्च सिस्टम का प्रदर्शन साझा किया।
संबंधित: माइकल बर्री ने Nvidia के $5.4B GPU डील को 'फुगाजी' कहा
सावधानी: इस लेख में प्रस्तुत जानकारी केवल सूचनात्मक और शैक्षिक उद्देश्यों के लिए है। यह लेख वित्तीय सलाह या किसी भी प्रकार की सलाह नहीं है। कॉइन एडिशन किसी भी हानि के लिए जिम्मेदार नहीं होगा जो उल्लिखित सामग्री, उत्पादों या सेवाओं के उपयोग के कारण हुई हो। पाठकों को कंपनी से संबंधित कोई भी कार्रवाई करने से पहले सावधानी बरतने की सलाह दी जाती है।