چین تھنک کی خبر، 5 اگست، افسرانی کے مطابق، انتھا بیلنگ (inclusionAI) نے Ling-3.0-flash وزن کو مکمل طور پر شروع کر دیا ہے، جس کے ساتھ BF16 اصل اور FP8 کوانتائزڈ ورژن فراہم کیے گئے ہیں۔
دونوں ورژن MIT لائسنس کے تحت ہیں، جو Hugging Face اور ModelScope پر دستیاب ہیں، اور SGLang یا vLLM کے ذریعے خود سے ڈپلوی کرنے کی سہولت فراہم کرتے ہیں۔
اس میں، BF16 ورژن کا سائز تقریباً 255GB ہے، جبکہ FP8 ورژن کا سائز تقریباً 128GB ہے، جس سے حجم تقریباً آدھا ہو جاتا ہے۔ FP8 کم درجہ کی دقت کے ساتھ پیرامیٹرز کو محفوظ کرتا ہے، جس سے ذخیرہ اور گرافکس میموری کی ضرورت کم ہو جاتی ہے؛
آفیشل لسٹ کی گئی چار ٹیسٹس میں، FP8 اور BF16 کے درمیان اعظم فرق 1.57 ہے۔
Ling-3.0-flash کے کل پیرامیٹرز 1240 ارب ہیں، جبکہ ہر جنریشن میں 51 ارب پیرامیٹرز فعال ہوتے ہیں، 25.6 لاکھ ٹوکن کے کنٹیکس کو سپورٹ کرتے ہیں، اور یہ بنیادی طور پر پروگرامنگ، سرچ، گہری تحقیق اور ٹول کالز جیسے ایجنٹ کاموں کے لیے ہے۔
آفسٹل ریویو کے مطابق، یہ ماڈل زیادہ تر بنچ مارکس پر پچھلے ٹریلین پیرامیٹر ماڈل Ring-2.6-1T کو یا تو پار کر گیا ہے یا اس کے برابر ہے۔