کئی چپ فرنٹس نے نئے جائزہ لینے کے طریقے دریافت کیے ہیں، جس کی پیچھے کا سبب ایجنٹس ہیں جو سی پی یو کے ورک لوڈ کو تبدیل کر رہے ہیں۔مضمون کے مصنف، ذریعہ: وول سٹریٹ ویزن
ایجینٹ کے استعمال کے مناظر مزید تفصیلی ہوتے جا رہے ہیں۔
کلاؤڈ کوڈ جیسے AI پروگرامنگ ٹولز سے لے کر دستاویزات کو سنبھالنے اور سافٹ ویئر کو چلانے والے آفس اسسٹنٹس، اور صارفین کے سفر کی منصوبہ بندی اور شیڈول کے انتظام میں مدد کرنے والے ذاتی اسسٹنٹس تک، ایجینٹز مزید زیادہ مخصوص کاموں کو سنبھالنے لگے ہیں۔
لگاتار بڑھتے ہوئے استعمال کے مناظر نے بنیادی کمپوٹنگ طاقت کے لیے نئی ضرورتیں پیدا کر دی ہیں۔
اس حوالے سے، Arm نے حال ہی میں ایجینٹ کے لیے ایک CPU پرفارمنس ایوانلیویشن میتھڈولوجی متعارف کرائی ہے، جو مختلف CPU کی ایجینٹ ٹاسکس میں کارکردگی کا جائزہ لینے کے لیے حقیقی اطلاقی مناظر کے قریب ٹیسٹنگ کا استعمال کرتی ہے۔
یہ اکیلا مسئلہ نہیں ہے۔ AMD نے پہلے ہی Agent AI کے لیے CPU ورک لوڈ ایوان لیٹنگ فریم ورک پیش کیا تھا، جس میں ٹولز کا انجام دینا، ڈیٹا حاصل کرنا اور ٹاسک آرگنائزیشن جیسے مراحل شamil کیے گئے تھے؛ اور Intel نے Xeon 6 پروسیسرز کے لیے متعلقہ ٹیسٹنگ کی، جس میں Agent ٹاسکس کی ٹھروٹل اور کنکرنس ایکزیکشن کارکردگی پر خصوصی توجہ دی گئی۔
کئی چپ فرنٹس نے نئے جائزہ لینے کے طریقے دریافت کیے ہیں، جس کی پیچھے کا سبب ایجنٹس ہیں جو سی پی یو کے ورک لوڈ کو تبدیل کر رہے ہیں۔
گزشتہ کچھ سالوں میں، بڑے ماڈلز کی کمپوٹیشنل طاقت کی مقابلہ GPU کے گرد مرکوز رہا، جس میں ٹوکن جنریشن کی رفتار اور ذخیرہ جیسے اشارے AI انفرنس کی کارکردگی کے لیے اہم معیار بن گئے۔
جب ایجینٹ اصل کاموں کو انجام دینا شروع کرتا ہے، تو صرف بڑے ماڈل کو استعمال کرکے استدلال کرنے کے علاوہ، ڈیٹا بیس تک رسائی، کوڈ انجام دینا، ٹولز کو بلانا وغیرہ بھی ضروری ہوتا ہے، جن میں سے ہر ایک زیادہ سی پی یو وسائل کا استعمال کر سکتا ہے۔
آرم کے کلاؤڈ AI سولوشنز آرکیٹیکٹ ڈائریکٹر راوی ملہوترا نے سافٹ ویئر ڈویلپمنٹ ایجنٹ کا مثال دے کر بتایا کہ ماڈل پہلے استدلال کرتا ہے اور کوڈ تیار کرتا ہے، پھر CPU کو کوڈ کی تعمیر، کمپائل اور ٹیسٹنگ مکمل کرنی پڑتی ہے، جن میں بہت زیادہ وقت لگ سکتا ہے۔
اس قسم کے استعمال کے لیے اہم بات یہ ہے کہ CPU اپنا حصہ کتنی جلدی مکمل کر سکتا ہے تاکہ کنٹرول جلدی سے مہنگے GPU یا ایکسلریٹر کو واپس دیا جا سکے تاکہ پائپ لائن کا اگلا مرحلہ انجام دیا جا سکے۔" راوی ملھوترا نے ایک ٹائمز جیسے ذرائع کو بتایا، "اگر CPU کافی تیز نہیں ہے تو مہنگا GPU بے کار رہے گا۔"
مزید پیچیدگی یہ ہے کہ مختلف ایجنٹس کی پرفارمنس کی پابندیاں مختلف ہوتی ہیں۔ کچھ کامز کی بنیادی پابندی GPU انفرنس کی رفتار ہے، جبکہ دوسرے کامز CPU سینڈ باکس انجن کی صلاحیت یا ڈیٹا ریٹریول کی کارکردگی سے متاثر ہوتے ہیں۔ ایک ہی قسم کے ایجنٹس کی پرفارمنس کی پابندیاں بھی ماڈل، ڈپلوئمنٹ ماحول اور مخصوص کام کے مطابق تبدیل ہو سکتی ہیں۔
سافٹ ویئر ڈویلپمنٹ کے مثال کے طور پر، کوڈ کمپائل اور ٹیسٹ کرنے کے لیے عام طور پر CPU کے وسائل کا مستقل استعمال درکار ہوتا ہے، اس لیے ایک ایجنٹ کی انجام دہی کی صلاحیت زیادہ اہم ہوتی ہے۔ دوسری طرف، کاروباری صارفین کی مدد، ذاتی اسسٹنٹ جیسے مناظر میں منفرد آپریشن عام طور پر مختصر ہوتے ہیں، لیکن ان میں بڑی تعداد میں درخواستوں کو одно وقت پر پروسیس کرنے کی ضرورت ہوتی ہے، جس سے CPU کی متوازی صلاحیت پر زیادہ دباؤ پڑتا ہے۔
یہ فرقوں کی وجہ سے CPU کی کارکردگی کی تشخیص مکمل Agent کے کام کی کارکردگی اور مختلف ورک لود کے تحت کارکردگی پر توجہ مرکوز کرنے لگی ہے۔
اس موقع پر Arm نے کمپوننٹ لیول ٹیسٹنگ اور اینڈ تو اینڈ ایجنٹ بینچ مارکنگ کو جوڑنے کا پیش کیا ہے۔
اس میں، کمپوننٹ لیول ٹیسٹنگ ویب سرور، ڈیٹا بیس، ماڈل سروسز اور سینڈ باکس ایکزیکشن جیسے ایلمنٹس کو کور کرتی ہے، جبکہ اینڈ تو اینڈ ٹیسٹنگ SWE-bench، Terminal-Bench جیسے ایجینٹ بنچ مارکس کو شامل کرتی ہے تاکہ مکمل ورک فلو میں پرفارمنس کا جائزہ لیا جا سکے۔
سینگل کور پرفارمنس، ملٹی کور تھروپٹ جیسے روایتی اشاریوں کے علاوہ، Arm ایجینٹ کنکرنسی، ٹاسک ایکزیکیشن کارآمدی اور ہر ریک پرفارمنس پر بھی توجہ دیتا ہے۔
راوی ملہوترا نے زور دیا کہ پرفارمنس کا جائزہ لینے کے لیے ٹھیکہ اور SLA (سروس لیول ایگریمنٹ) کی ضروریات کے درمیان توازن برقرار رکھنا ضروری ہے، صرف زیادہ سے زیادہ ایجینٹس کو ایک ساتھ چلانے کا تعاقب نہیں کیا جانا چاہیے۔
چونکہ مختلف مناظر کی ضروریات مختلف ہوتی ہیں، ارم بھی تمام ایجینٹ استعمالات کے لیے ایک ہی وزن تقسیم کرنے کی تجویز نہیں کرتا، بلکہ یہ سفارش کرتا ہے کہ کاروبار اپنے застосування کے مطابق مناسب ایوان کے اشاریے منتخب کرے۔
جب ایجینٹس逐渐 اپنے حقیقی کاروباری عمل میں داخل ہوتے ہیں، تو یہ پرفارمنس میٹرکس کمپنیوں کے لیے CPU انفراسٹرکچر کا انتخاب اور اپ گریڈ کرنے کے لیے اہم رہنمائی بن جاتے ہیں۔
راوی ملہوترا کا خیال ہے کہ سافٹ ویئر ڈویلپمنٹ، کسٹمر سپورٹ، سپلائی چین مینجمنٹ اور پرسنل اسسٹنٹ جیسے مناظر، کمپنیوں کے CPU انفراسٹرکچر کو اپ گریڈ کرنے کا اہم محرک بنیں گے۔
رَوی ملہوترا کا کہنا ہے: "کاروباروں کے لیے، صارف حمایت، سپلائی چین مینجمنٹ، اور ذاتی اسسٹنٹ جیسے سناریوز میں ہر ریک کی پرفارمنس پر زیادہ توجہ دی جاتی ہے، اور Arm AGI CPU کی قابلیتِ توسیع اور توانائی کی کارکردگی کے فوائد ان سناریوز میں خاص طور پر نمایاں ہیں۔"
راوی ملہوترا نے مزید کہا کہ چاہے موجودہ انفراسٹرکچر کو ایجینٹ ایپلیکیشن کے لیے اپ گریڈ کیا جائے یا نئے انفراسٹرکچر کا ڈیزائن اور ترقی کی جائے، ان سیناریوز میں واضح اپ گریڈ کی ضرورت پیدا ہوگی اور اس سے Arm AGI CPU کی نمو اور عام ہونے کا بنیادی رجحان بنا ہوگا۔
کاروبار کے لیے، سی پی یو کی کارکردگی میں اضافہ کا فائدہ آخرکار عملی آپریشنل کارکردگی اور لاگت پر ظاہر ہونا چاہیے۔
مختلف ایجنٹس کے ورک لود میں بڑا فرق ہے، اور بنچ مارک میں دکھائی دینے والی کارکردگی کی برتری حقیقی طور پر ٹاسک ایکزیکشن کی کارکردگی میں اضافہ اور ڈپلویمنٹ لاگت میں کمی میں تبدیل ہو سکتی ہے، لیکن اس کے لیے مزید عملی استعمال کی تصدیق درکار ہے۔
خرابی کا اعلان اور معافی کا معاہدہ
بازار کے خطرات ہیں، سرمایہ کاری کے لیے احتیاط ضروری ہے۔ یہ مضمون کسی بھی ذاتی سرمایہ کاری کی تجویز نہیں ہے اور نہ ہی اس میں کسی صارف کے خاص سرمایہ کاری کے اہداف، مالیاتی حالات یا ضروریات کو شامل کیا گیا ہے۔ صارفین کو چاہیے کہ وہ اس مضمون میں دی گئی کسی بھی رائے، نظریہ یا نتیجہ کو اپنی خاص صورتحال کے مطابق جانچیں۔ اس کے مطابق سرمایہ کاری کرنے کا مکمل جوابدہ ہونا صارف کا فرض ہے۔