شیائومی کا MiMo-V2.5 ماڈل 10 لیئر کے مساوی توجہ کی حسابگری کے ساتھ لاگت کم کرتا ہے

ME نیوز کے مطابق، 27 مئی (UTC+8) کو، Beating کی نگرانی کے مطابق، مائیکرو سافٹ نے اپنے خود ساختہ بڑے ماڈل MiMo-V2.5 سیریز پر API کی قیمت میں مستقل کمی کی ہے، اس کے بعد مائیکرو سافٹ کے بڑے ماڈل ٹیم کے ہیڈ رو فولی نے X پلیٹ فارم پر الگورتھم کی لاگت میں کمی کے طریقہ کار کا اعلان کیا۔ رو فولی نے بتایا کہ API کی قیمت DeepSeek کے برابر ہونے کے باوجود، مائیکرو سافٹ کا ہائی لود ریزنگ انجن اب بھی خرچ اور آمدنی کے درمیان توازن برقرار رکھ رہا ہے۔ لاگت میں کمی کا بنیادی سبب مخلوط توجہ آرکٹیکچر اور ہائیرارکل KV کیش آپٹیمائزیشن ہے۔ کیش ہٹ (Cache Hit) کی لاگت میں 99 فیصد کمی کے ہدف کے لیے، مائیکرو سافٹ نے سلائڈنگ ونڈو توجہ (SWA) کے لیے ہائیرارکل KV کیش آپٹیمائزیشن حاصل کی ہے۔ پیداواری ٹیسٹنگ سے پتہ چلتا ہے کہ ہائیرارکل آپٹیمائزیشن نے کیش میں ٹوکن کی صلاحیت پانچ گنا بڑھا دی ہے اور کیش لاگت میں 80 فیصد کمی آئی ہے۔ عالمی توجہ ماڈولز کے درمیان کیش رید اوورلپ (Cache Read Overlap) تکنالوجی کو جوڑنے سے، سسٹم نے کیش ہٹ کی عملی لاگت مزید کم کر دی۔ بنیادی ان پٹ اور آؤٹ پٹ لاگت میں 60 فیصد سے 80 فیصد تک کمی کا سبب رو فولی نے ماڈل میں شامل 1:7 لیر وائس اسپارسٹی نسبت بتائی، جس میں عالمی توجہ (GA) اور سلائڈنگ ونڈو توجہ (SWA) کے لیرز کا تناسب 1:7 ہے۔ لمبے متن پر فراہم (Prefill) مرحلے میں، 60 لیر SWA صرف مقامی سلائڈنگ ونڈو پر حساب لگاتا ہے، جس سے 70 لیر والے MiMo-V2.5-Pro ماڈل کا مجموعی توجہ حساب صرف ایک 10 لیر والے روایتی عالمی GQA ماڈل جتنا ہوتا ہے۔ انتہائی کم حساباتی لوڈ نے اصل رینسنگ لاگت کو کم کر دیا، جس سے قیمت میں کمی سے پہلے مائیکرو سافٹ کو 2 سے 3 گنا منافع کا خلا دسترس تھا۔ اس لئے، قیمت میں کمی ساختی لاگت مینٹننس کا نتیجہ ہے، نہ کہ نقصان دہ مقابلہ۔ رو فولی نے کہا کہ سستا رینسنگ سروس آخری صارفین کے ذكاء مند تقاضوں کو فروغ دینے مें مدد دے گا۔ بڑے ماڈل اداروں کو بھول بھلائے قدر مقابلہ سے بچنا چاہئے اور الگورتھم اور رینسنگ سسٹم کے بنیادی تعاون سے عملی رننگ لاگت کو خرچ اور آمدنی کے توازن سے نچلا رکھنا چاہئے۔ (ذرائع: BlockBeats)