NVIDIA Blackwell ایجینٹ ہارڈویئر بینچ مارک میں H200 سے 20 گنا بہتر کارکردگی دکھاتا ہے

ME AI کا پیغام، اس کی نگرانی کے مطابق، تجزیاتی ادارہ Artificial Analysis نے صنعت کا پہلا ایجنٹ (Agent) ہارڈویئر بینچ مارک AA-AgentPerf جاری کیا ہے۔ روایتی تجزیہ ایک منفرد سوال جواب کی طرح "سپرینٹ" ہے، جو صرف جواب کی رفتار پر توجہ دیتا ہے؛ جبکہ ایجنٹ کے کام "ریلے ریس" کی طرح ہوتے ہیں، جہاں AI کو اپنے مقصد کو الگ الگ حصوں میں تقسیم کرنا ہوتا ہے اور فائلز پڑھنا/لکھنا، کوڈ میں تبدیلی کرنا، اور ٹیسٹ چلانا شامل ہوتا ہے۔ متعدد تعاملات سرور کی میموری کی صلاحیت اور شیڈولنگ کے اثربخشی کے لیے بہت بڑا چیلنج ہیں۔ بینچ مارک حقیقی پروگرامنگ ٹریجکٹریز کو دوبارہ چلانے کے ذریعے، "ہر مگاواٹ طاقت استعمال کرنے پر متوازی ایجنٹس کی تعداد" کو مرکزی توانائی کا اشارہ بناتا ہے، جو ڈیٹا سنٹر کی بجلی اور فنڈنگ کی پابندیوں کو براہ راست حل کرتا ہے۔ پہلے مرحلے کے ٹیسٹ میں 1.6 ٹرلین پیرامیٹرز والا اوپن سورس ماڈل DeepSeek V4 Pro استعمال کیا گیا۔ نتائج نے ظاہر کیا کہ نوڈیا بلیکول لکوئڈ کولڈ سسٹم GB300 NVL72 ہر مگاواٹ طاقت پر 61,400 متوازی ایجنٹس برداشت کر سکتا ہے، جبکہ پچھلے نسل Hopper HGX H200 صرف 2,600 ایجنٹس کو ہی سپورٹ کرتا ہے، جس سے توانائی کا استعمال زائد 20 گنا بہتر ہوا۔ اکلوتے GPU کی متوازی صلاحیت بھی 41 گنا بڑھ گئی۔ اس سے، اسی بجلی کے بجٹ میں، ڈیٹا سنٹر 20 گنا زائد متوازی ایجنٹس برداشت کر سکتا ہے، جس سے خودکار پروگرامنگ اور صارفین کے ساتھ مدد جیسے اطلاقات کے لاگت میں بڑا خلاصہ آتا ہے۔ پہلے نتائج میں، AMD Instinct MI355X عارضی طور پر پچھڑ رہا ہے۔ تجزیاتی ادارہ نے بتایا کہ AMD اور H200 دونوں نے عام اوپن سورس vLLM فریم ورک استعمال کیا ہے، جس میں گہرا آپٹمائز نہیں کیا گیا؛ جبکہ سروس فریم ورک اور اندر کے آپریشنز کے مطابق ترتیب دینے سے AMD کی صلاحیت مزید بڑھ سکتی ہے۔ ابھی تک، Together AI جیسے انفرینس فراہم کنندگان نے Blackwell پر DeepSeek V4 Pro کو ترتیب دے دیا ہے، جو ایجنٹ پروگرامنگ ٹول Cursor کو رئل ٹائم انفرینس سپورٹ فراہم کرتا ہے۔ (ذرائع: BlockBeats)