مائیکروسافٹ کے تحقیقی افراد نے AI جوابات کو فعال کرنے کے لیے سات نیورونز کو تبدیل کیا

iconNS3
بانٹیں
AI summary iconخلاصہ
مایکروسافٹ سے AI + کرپٹو خبریں: تحقیق کاروں نے لازارس تیار کیا، جو AI ماڈلز میں سات نیورونز کو تبدیل کرکے پیش گوئی کردہ آؤٹ پٹس کو فعال کرتا ہے۔ 10 نومبر کو اس طریقہ کار کا اعلان کیا گیا، جو Nemotron-Terminal-8B اور Qwen3.6-27B جیسے ماڈلز پر کام کرتا ہے۔ مایکروسافٹ کے مطابق، تکنیک کا کوئی برے مقاصد کے لیے استعمال نہیں ہوا ہے۔ آن چین خبروں کے ماہرین کی تجویز ہے کہ خطرات کو کم کرنے کے لیے ماڈل کی اصلیت کی تصدیق کی جائے اور رسائی پر پابندی لگائی جائے۔

مائیکروسافٹ ریسرچ نے ایک AI ماڈل کو ایک چھپے ہوئے ٹریگر کے ظہور پر ایک منتخب جواب دینے کے لیے سات نیورونز کو تبدیل کیا، جبکہ عام صلاحیتیں برقرار رکھیں۔ مائیکروسافٹ ریسرچ نے 10 نومبر کو لازارس نامی یہ تکنیک کا اعلان کیا۔ مصنفین نے 11 نومبر کو اس پیپر کو arXiv پر جمع کرایا۔ مائیکروسافٹ تھریٹ انٹیلی جنس نے کہا کہ انہوں نے اس تکنیک کو کسی بھی خطرناک فریق کے ذریعہ ہتھیار کے طور پر استعمال نہیں دیکھا ہے۔

حملہ محفوظ ماڈل وزن تک رسائی کی ضرورت رکھتا ہے، جو ان پر پروسیسنگ اور ریسپانس جنریشن کو کنٹرول کرتے ہیں۔ ٹرگر پہلے سے ڈالے گئے رویے کو فعال کرتا ہے اور غیر تبدیل شدہ چیک پوائنٹ میں بیکڈور نہیں بناسکتا۔ لازارس ماڈل کے آؤٹ پٹ کے قریب آخری فیڈ فارورڈ لیئر میں نینڈر کا استعمال کرتا ہے۔ ہر منتخب نینڈر منصوبہ بند پیغام کے متعلقہ ٹوکن کو ترجیح دے سکتا ہے۔ سات نینڈر وزن ویکٹرز کے گروپس کی نمائندگی کرتے ہیں، نہ کہ سات عددی پیرامیٹرز۔ تحقیق کاروں نے ایک ورژن کا امتحان کیا جو وزن میں تبدیلی کو ب без تربیت کے حساب کرتا ہے اور دوسرا ورژن جو صرف منتخب وزن کو مزید ایڈجسٹ کرتا ہے۔ دونوں ورژنز کو مکمل ماڈل کی دوبارہ تربیت کی ضرورت نہیں ہے۔

سات نیورون کے ٹیسٹ کے لیے، تحقیق کاروں نے 23 ٹریگرڈ اور بے ضرر مثالوں کا استعمال کرتے ہوئے Nemotron-Terminal-8B پیچ فٹ کیا، جبکہ نیورون کا انتخاب اور تصدیق کے لیے ڈیٹا پہلے سے مقرر کر دیا گیا تھا۔ ماڈل نے ریکارڈ کردہ ٹریگرڈ ماحول میں کم از کم 98.8% کیسز میں پورا مارکر پیش کیا۔ ٹیسٹ کردہ بے ضرر ریکارڈڈ ماحول میں کوئی مارکر لیکج نہیں دکھائی دیا۔ پیلوز، printf LAZARUS_OK، ایک مارکر پرنٹ کرتا ہے۔ اس تجربے نے سات نیورونز کا استعمال کرتے ہوئے آؤٹ پٹ کنٹرول کو ظاہر کیا، نہ کہ تباہ کن قبضہ۔

ایک مختلف تجربہ نے Qwen3.6-27B میں 60 نیورونز کو تبدیل کیا تاکہ متعدد ایجینٹ ایکشن فارمیٹس کے ذریعے ایک ڈیکوی ریپوزٹری کو حذف کرنے کا حکم پیش کیا جا سکے۔ پہلے نہ دیکھے گئے swe-agent فارمیٹ پر مکمل ایکشن پیشگوئی 40% تک پہنچ گئی۔ ٹیسٹ میں ہر مرحلے پر مناسب پچھلے ٹوکنز فراہم کیے گئے، آزاد چلائی جانے والی پیداوار کے دوران تباہ کن حکم کی انجام دہی کا جائزہ نہیں لیا گیا۔

مزید نیمٹرون تجربات نے نئی نسل کو ممکن بنایا اور کوئری-ٹرگرڈ کیسز میں 98.88% کیسز میں مارکر پیدا ہوا۔ مشاہدہ-ٹرگرڈ کیسز میں 98.71% کیسز میں مارکر پیدا ہوا۔ کوئری-ٹرگرڈ کیسز میں بینائن لیکیج صفر رہا اور مشاہدہ-ٹرگرڈ کیسز میں 0.14% رہا۔ عام صلاحیتیں زیادہ تر برقرار رہیں، حالانکہ قابلِ ناپ تفرق ظاہر ہوئی۔ ٹرگرز کے بغیر الگ Qwen بینچ مارکس نے صاف چیک پوائنٹ کے لیے ٹرمینل-بینچ ٹاسک کامیابی 46.59% ریکارڈ کی، جبکہ ہر ایڈٹڈ چیک پوائنٹ کے لیے 42.05% رہا۔ ان بینچ مارکس کے نتائج یہ ثابت نہیں کرتے کہ الگ 60-نیورون پچ کس طرح کام کرتا ہے۔

کامیاب عام کام کے ٹیسٹس یہ ثابت نہیں کرتے کہ ماڈل کے وزن تبدیل ہو گئے ہیں۔ ایک ٹریگر ہونے والی ریسپانس جو ٹرمنل کمانڈ بن جائے، صرف ایجینٹ کے موجودہ اجازتوں کے اندر ہی کام کر سکتی ہے۔ مائیکروسافٹ ماڈل کی اصلیت کی تصدیق اور وزن میں تبدیلیوں کی جانچ کی تجویز کرتا ہے۔ مائیکروسافٹ سفارش کرتا ہے کہ اختیارات اور آؤٹ باؤنڈ نیٹ ورک رسائی کو محدود کیا جائے، اور اہم ٹول ایکشنز کے لیے منظوری کی ضرورت ہو۔ یہ کنٹرولز چیک پوائنٹ ٹیمپرنگ اور ماڈل کو میزبانی کرنے والے ایجینٹ کے صلاحیتوں دونوں کو شامل کرتے ہیں۔ مائیکروسافٹ نے انتباہ دیا ہے کہ کامیاب آڈٹ محفوظ رویہ کی ضمانت نہیں دے سکتا۔

اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔ ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔