NVIDIA ने गुरुवार को नए ओपन-सोर्स वेट मॉडल जारी किए, जो सदैव-ऑन प्रॉक्सी और एज कॉम्प्यूटिंग के लिए समर्थन करने के उद्देश्य से बनाए गए हैं।
Nemotron 3.5 Super VL एक 120 अरब पैरामीटर वाला बड़ा मॉडल है, जो उद्यमों के लिए एजेंट के रूप में डिज़ाइन किया गया है। न्विडिया के अनुसार, हालाँकि इसके पैरामीटर Nemotron 3 Ultra मॉडल से कम हैं, लेकिन निर्देश पालन और उपकरण उपयोग के कार्यों में इसकी सटीकता लगभग समान हो सकती है।
दूसरी ओर, निविडा ने दो हल्के बोल्ट मॉडल भी लॉन्च किए हैं। इन मॉडल्स का उद्देश्य नए AI PC (जिनमें निविडा RTX Spark चिप है) और DGX Spark चलाने वाले स्टेशन पर स्थानीय रूप से चलाना है। ये PC, जो उपभोक्ताओं, प्रोग्रामरों और उद्योग के ज्ञान-आधारित कर्मचारियों के लिए हैं, माइक्रोसॉफ्ट और डेल जैसे साझेदारों के माध्यम से बाजार में प्रवेश कर रहे हैं।
NVIDIA के Open Models और Software के वाइस प्रेसिडेंट Kari Briski ने इन मॉडल्स के ब्लॉग पोस्ट में लिखा है: "NVIDIA इंफ्रास्ट्रक्चर पर एजेंट चलाने की इच्छा रखने वाली कोई भी संगठन, अब अपने स्तर के लिए एक ओपन, ऑप्टिमाइज़्ड मॉडल पा सकता है, बिना क्षमता और डिप्लॉयमेंट के बीच कोई चुनाव किए।"
NVIDIA का कहना है कि विशिष्ट एजेंट कार्यों के लिए बाद के प्रशिक्षण के बाद, Super VL, Anthropic और OpenAI के प्रतिस्पर्धी मॉडल्स (Opus 5, GPT 6.1 Sol, Luna, Astra) की तुलना में कार्यों को तेजी से पूरा करता है। इन कार्यों में दस्तावेज़ बुद्धिमत्ता, वित्तीय लेखांकन, वैज्ञानिक प्रयोग, स्वास्थ्य बीमा दावे और सुरक्षा हमलों की लचीलापन शामिल हैं।
हालांकि बड़ी टेक कंपनियों द्वारा नए मॉडल जारी करने पर ऐसे दावे आम हैं, लेकिन निविडा ने उन बड़ी कंपनियों की एक सूची भी जारी की है, जिनका दावा है कि वे Super VL का उपयोग कर रही हैं, जिनमें स्काईडांस, ईवाई, रैंप, क्राउडस्ट्राइक, पर्प्लेक्सिटी और सेल्सफोर्स शामिल हैं।
यह निश्चित रूप से पहली बार नहीं है जब न्वाइडिया ने ऐसे ओपन सोर्स वेट मॉडल जारी किए हों जो उनके स्वामित्व वाले अग्रणी प्रयोगशालाओं के साथ प्रतिस्पर्धा कर सकें—जो कंपनियाँ उसकी ग्राहक और निवेशक दोनों हैं। न्वाइडिया के नेमट्रॉन श्रृंखला मॉडल मल्टीमॉडल एआई, इनफरेंस, प्रोग्रामिंग, गणित और उद्यम स्वयंसंचालन जैसे कार्यों को कवर करते हैं।
हालांकि, इन तेजी से बढ़ रहे निजी AI प्रयोगशालाओं अब AWS के Trainium, Cerebras और स्वयं डिज़ाइन किए गए चिप्स सहित नवीनतम चिप्स और AI सिस्टम विक्रेताओं की ओर मुड़ रही हैं।
इसलिए, न्वीडिया इस बात पर जोर दे रही है कि उद्योग अपने स्वयं के डेटासेंटर में ओपन सोर्स मॉडल चलाना चाहते हैं। ब्रिस्की ने लिखा: "बंद अग्रणी मॉडल के विपरीत, संगठन Super VL को अपने डेटा के साथ पोस्ट-ट्रेन कर सकते हैं, इसे अपने अपने बुनियादी ढांचे पर डिप्लॉय कर सकते हैं, और अपने द्वारा बनाए गए परिणामों का मालिकाना हक रख सकते हैं।"
लेकिन इन छोटे, स्थानीय रूप से चलाए जा सकने वाले PC मॉडल के लॉन्च के साथ, न्वीडिया उभरते हुए उपभोक्ता AI सहायक ट्रेंड को आगे बढ़ाने की कोशिश कर रहा है। हालांकि लगता है कि हर दिन नए स्टार्टअप और बड़ी टेक कंपनियां नए AI सहायक लॉन्च कर रही हैं, लेकिन गोपनीयता के प्रति चिंतित उपभोक्ता इस तरह के एजेंट्स को अपने जीवन में गहराई से शामिल होने और परिवार, स्वास्थ्य, वित्तीय जानकारी आदि तक पहुंचने की अनुमति नहीं देना चाहते हैं।
इसलिए, न्वीडिया अपने चिप्स द्वारा संचालित PC बेचकर एक नया बाजार बनाना चाहता है, जिस पर मॉडल और एजेंट स्थानीय रूप से चलाए जा सकें। ब्रिस्की ने लिखा है कि PC उपयोगकर्ता “दैनिक प्रोजेक्ट्स को सौंप सकते हैं…… बिना इन वर्कलोड्स को क्लाउड पर भेजे”。
दो Bolt मॉडल्स में से, Nemotron 3.5 Bolt 74B-A9B 24GB एक 74 अरब पैरामीटर मॉडल है, जिसे स्थानीय एजेंट कार्यों के लिए डिज़ाइन किया गया है, जो बहु-चरण तर्क, टूल कॉल और वेब ब्राउज़िंग को संभालने के लिए गति और निष्पादन क्षमता के बीच संतुलन बनाने का उद्देश्य रखता है। छोटा Bolt E4B संवादात्मक एजेंट के लिए उपयुक्त है।
NVIDIA ने घोषणा की कि Super VL और Bolt 74B-A9B अब उपलब्ध हैं, और Bolt E4B को इस महीने के अंत में लॉन्च किया जाएगा।