एंट ग्रुप ने 124 बिलियन पैरामीटर्स के साथ लिंग-3.0-फ्लैश मॉडल को ओपन सोर्स किया है

icon MarsBit
साझा करें
AI summary iconसारांश
एंट ग्रुप की इनक्लूजनएआई ने MIT लाइसेंस के तहत Ling-3.0-flash मॉडल को ओपन-सोर्स कर दिया है, जिससे डेवलपर्स के बीच रुचि बढ़ रही है। यह मॉडल BF16 (255GB) और FP8 (128GB) संस्करण प्रदान करता है, जिसमें बाद वाला स्मृति की आवश्यकता कम करता है। इसमें कुल 124B पैरामीटर हैं, लेकिन प्रत्येक जनरेशन में केवल 5.1B का उपयोग होता है। यह मॉडल 256,000-टोकन संदर्भ का समर्थन करता है और प्रोग्रामिंग और टूल कॉलिंग में उत्कृष्ट है। FP8 संस्करण चार परीक्षणों में BF16 के सापेक्ष अधिकतम 1.57 स्कोर का अंतर दिखाता है। भय और लालच सूचकांक के डेटा से AI उन्नतियों के बारे में बढ़ती आशावादी भावना का पता चलता है।

Beating Monitoring के अनुसार, Ant Ling (inclusionAI) ने Ling-3.0-flash के वेट्स को आधिकारिक रूप से लॉन्च किया है, जिसमें BF16 मूल संस्करण और FP8 क्वांटाइज्ड संस्करण शामिल हैं। दोनों संस्करण MIT लाइसेंस के तहत उपलब्ध हैं और Hugging Face और ModelScope पर उपलब्ध हैं, जिन्हें आप SGLang या vLLM का उपयोग करके स्वयं डिप्लॉय कर सकते हैं। BF16 संस्करण का आकार लगभग 255 GB है, जबकि FP8 संस्करण का आकार लगभग 128 GB है, जो लगभग आधा हो गया है। FP8 में पैरामीटर को कम सटीकता के साथ सहेजा जाता है, जिससे स्टोरेज और GPU मेमोरी की आवश्यकता कम हो जाती है। आधिकारिक रूप से सूचीबद्ध 4 परीक्षणों में, FP8 और BF16 के बीच अधिकतम अंतर 1.57 अंक है। Ling-3.0-flash का कुल पैरामीटर 1240 अरब है, और प्रत्येक जनरेशन में केवल 51 अरब सक्रिय होते हैं। मॉडल 256,000 Token के कंटेक्स्ट को सपोर्ट करता है और मुख्य रूप से प्रोग्रामिंग, सर्च, गहन अनुसंधान और टूल कॉलिंग जैसे Agent कार्यों के लिए डिज़ाइन किया गया है। आधिकारिक मूल्यांकन के अनुसार, यह मॉडल अधिकांश बेंचमार्क पर Trillion-पैरामीटर पिछली पीढ़ी के मॉडल Ring-2.6-1T के समान या उससे बेहतर प्रदर्शन करता है।

स्रोत:मूल दिखाएं
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा। डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।