ChainThink সংবাদ, ৮ মে, অফিসিয়াল ঘোষণা অনুযায়ী, অ্যালিবাবা বেলিং (inclusionAI) আনুষ্ঠানিকভাবে Ling-3.0-flash ওয়েট প্রকাশ করেছে এবং BF16 ওয়ার্সন এবং FP8 কোয়ান্টাইজড ভার্সন উভয়ই প্রদান করছে।
উভয় সংস্করণই MIT লাইসেন্স অনুযায়ী প্রকাশিত হয়েছে, এবং Hugging Face এবং ModelScope-এ প্রকাশিত হয়েছে, যা SGLang বা vLLM এর মাধ্যমে নিজের হাতে ডিপ্লয় করার সুযোগ দেয়।
যেখানে BF16 সংস্করণের আকার প্রায় 255 জিবিবাইট, এবং FP8 সংস্করণের আকার প্রায় 128 জিবিবাইট, যা প্রায় অর্ধেক কমে গেছে। FP8 কম প্রেসিশনে প্যারামিটারগুলি সংরক্ষণ করে, যা স্টোরেজ এবং জিপিইউ মেমোরির প্রয়োজনীয়তা কমিয়ে দেয়;
অফিসিয়াল তালিকাভুক্ত 4টি পরীক্ষার মধ্যে, FP8 এবং BF16 এর মধ্যে সর্বোচ্চ পার্থক্য 1.57 পয়েন্ট।
লিং-3.0-ফ্ল্যাশের মোট প্যারামিটার সংখ্যা 1240 বিলিয়ন, প্রতিবার জেনারেশনে 51 বিলিয়ন প্যারামিটার সক্রিয় হয়, 25.6 লক্ষ টোকেনের কনটেক্সট সমর্থন করে, যা প্রধানত প্রোগ্রামিং, অনুসন্ধান, গভীর গবেষণা এবং টুল কলসহ এজেন্ট টাস্কগুলির জন্য উপযোগী।
অফিসিয়াল মূল্যায়ন অনুযায়ী, এই মডেলটি বেশিরভাগ বেঞ্চমার্কে Ring-2.6-1T পূর্বপুরুষ ট্রিলিয়ন প্যারামিটার মডেলের সমান বা তার উপরে পারফর্ম করে।