ChainThink का संदेश, 5 अगस्त, आधिकारिक सूचना के अनुसार, एंटीबायलिंग (inclusionAI) ने आधिकारिक रूप से Ling-3.0-flash वेट्स खोल दिए हैं, और BF16 मूल और FP8 क्वांटाइज्ड संस्करण प्रदान कर रहा है।
दोनों संस्करण MIT लाइसेंस के तहत हैं और Hugging Face और ModelScope पर उपलब्ध हैं, जिन्हें SGLang या vLLM के माध्यम से स्वयं डिप्लॉय किया जा सकता है।
इसमें, BF16 संस्करण का आकार लगभग 255 जीबी है, जबकि FP8 संस्करण का आकार लगभग 128 जीबी है, जिससे आकार लगभग आधा हो जाता है। FP8 कम सटीकता के साथ पैरामीटर्स को सहेजता है, जिससे स्टोरेज और वीएमएम की सीमा कम हो जाती है;
अधिकृत रूप से सूचीबद्ध 4 परीक्षणों में, FP8 और BF16 के बीच अधिकतम अंतर 1.57 है।
Ling-3.0-flash की कुल पैरामीटर संख्या 1240 अरब है, प्रत्येक जनरेशन में 51 अरब पैरामीटर सक्रिय होते हैं, 25.6 लाख टोकन के कंटेक्स्ट का समर्थन करता है और मुख्य रूप से प्रोग्रामिंग, खोज, गहन अनुसंधान और टूल कॉल जैसे Agent कार्यों के लिए डिज़ाइन किया गया है।
ऑफिशियल रिव्यू के अनुसार, यह मॉडल अधिकांश बेंचमार्क पर पिछले ट्रिलियन पैरामीटर मॉडल Ring-2.6-1T को या तो पार कर गया है या उसके बराबर है।