مائیکروسافٹ ریسرچ نے ایک AI ماڈل کو ایک چھپے ہوئے ٹریگر کے ظہور پر ایک منتخب جواب دینے کے لیے سات نیورونز کو تبدیل کیا، جبکہ عام صلاحیتیں برقرار رکھیں۔ مائیکروسافٹ ریسرچ نے 10 نومبر کو لازارس نامی یہ تکنیک کا اعلان کیا۔ مصنفین نے 11 نومبر کو اس پیپر کو arXiv پر جمع کرایا۔ مائیکروسافٹ تھریٹ انٹیلی جنس نے کہا کہ انہوں نے اس تکنیک کو ہتھیار کے طور پر استعمال کرنے والے کسی بھی خطرناک فریق کو نہیں دیکھا ہے۔
حملہ محفوظ ماڈل وزن تک رسائی کی ضرورت رکھتا ہے، جو ان پر پروسیسنگ اور ریسپانس جنریشن کو کنٹرول کرتے ہیں۔ ٹریگر پہلے سے نصب رویہ کو فعال کرتا ہے اور غیر تبدیل شدہ چیک پوائنٹ میں بیکڈور نہیں ڈال سکتا۔ لازارس ماڈل کے آؤٹ پٹ کے قریب آخری فیڈ فارورڈ لیئر میں نیند میں مبتلا نیورونز استعمال کرتا ہے۔ ہر منتخب نیورون مقصدی پیلوزڈ کا ایک ٹوکن فیvor کر سکتا ہے۔ سات نیورونز وزن ویکٹرز کے گروپس کو ظاہر کرتے ہیں، نہ کہ سات عددی پیرامیٹرز۔ تحقیق کاروں نے ایک ورژن کا ٹیسٹ کیا جو وزن میں تبدیلی کو ب без ری ٹریننگ کے براہ راست کمپیوٹ کرتا ہے اور دوسرا ورژن جو صرف منتخب وزنوں میں مزید ترمیم کرتا ہے۔ دونوں ورژنز کو مکمل ماڈل دوبارہ ٹرین کرنے کی ضرورت نہیں ہے۔
سات نیورون کے ٹیسٹ کے لیے، تحقیق کاروں نے 23 ٹریگرڈ اور بینائن مثالوں کا استعمال کرتے ہوئے Nemotron-Terminal-8B پیچ فٹ کیا، جبکہ نیورون کا انتخاب اور تصدیق کے لیے ڈیٹا پہلے سے مقرر کر دیا گیا تھا۔ ماڈل نے ریکارڈ شدہ ٹریگرڈ کنٹیکسٹس میں سے کم از کم 98.8% میں مکمل مارکر کا پیش گوئی کیا۔ جانچے گئے بینائن ریکارڈ شدہ کنٹیکسٹس میں کوئی مارکر لیکیج نہیں دکھائی دیا۔ پیلوزڈ، printf LAZARUS_OK، ایک مارکر پرنٹ کرتا ہے۔ اس تجربے نے سات نیورونز کا استعمال کرتے ہوئے اخراج کنٹرول کو ظاہر کیا، نہ کہ تباہ کن قبضہ۔
ایک مختلف تجربہ نے Qwen3.6-27B میں 60 نیورونز کو ترمیم کیا تاکہ متعدد ایجینٹ ایکشن فارمیٹس کے لیے ایک ڈیکوی ریپوزٹری کو حذف کرنے کا حکم پیش گوئی کیا جا سکے۔ پہلے نہ دیکھے گئے swe-agent فارمیٹ پر مکمل ایکشن پیش گوئی 40% تک پہنچ گئی۔ ٹیسٹ میں ہر مرحلے پر مناسب پچھلے ٹوکنز فراہم کیے گئے، آزاد چل رہی تولید کے دوران تباہ کن حکم کی انجام دہی کا جائزہ نہیں لیا گیا۔
مزید نیمٹرون تجربات نے نئی نسل کو ممکن بنایا اور کوئری-ٹرگرڈ کیسز میں 98.88% کیسز میں مارکر پیدا ہوا۔ مشاہدہ-ٹرگرڈ کیسز میں 98.71% کیسز میں مارکر پیدا ہوا۔ کوئری-ٹرگرڈ کیسز میں بینائن لیکیج صفر رہا اور مشاہدہ-ٹرگرڈ کیسز میں 0.14% رہا۔ عام صلاحیتیں زیادہ تر برقرار رہیں، حالانکہ قابلِ ناپ تفرق ظاہر ہوئی۔ ٹرگرز کے بغیر الگ Qwen بینچ مارکس نے صاف چیک پوائنٹ کے لیے ٹرمینل-بینچ ٹاسک کامیابی 46.59% ریکارڈ کی، جبکہ ہر ایڈٹڈ چیک پوائنٹ کے لیے 42.05% رہا۔ ان بینچ مارکس کے نتائج یہ ثابت نہیں کرتے کہ الگ 60-نیورون پیچ کس طرح کام کرتا ہے۔
کامیاب عام کام کے ٹیسٹس یہ نہیں ثابت کرتے کہ ماڈل کے وزن تبدیل ہو گئے ہیں۔ ایک ٹریگر شدہ ریسپانس جو ٹرمنل کمانڈ بن جائے، صرف ایجینٹ کے موجودہ اجازتوں کے اندر کام کر سکتی ہے۔ مائیکروسافٹ ماڈل کی نسبت کی تصدیق اور وزن میں تبدیلیوں کی جانچ کی تجویز کرتا ہے۔ مائیکروسافٹ سفارش کرتا ہے کہ اختیارات اور آؤٹ باؤنڈ نیٹ ورک رسائی کو محدود کیا جائے، اور اہم اوزار کے ایکشنز کے لیے منظوری کی ضرورت ہو۔ یہ کنٹرولز چیک پوائنٹ ٹیمپرنگ اور ماڈل کو میزبانی کرنے والے ایجینٹ کے صلاحیتوں دونوں کو شامل کرتے ہیں۔ مائیکروسافٹ چھوٹا ہے کہ کامیاب آڈٹ محفوظ رویہ کی ضمانت نہیں دے سکتا۔
مایکروسافٹ کے تحقیق کاروں نے سوین نیورونز کا استعمال کرتے ہوئے AI ماڈل کے بیکڈور ٹیکنیک کو ظاہر کیا
CryptoSlateبانٹیں
مایکروسافٹ سے AI اور کرپٹو خبروں میں ایک نیا طریقہ دریافت کیا گیا ہے جس کے ذریعے خاموش نیورونز کا استعمال کرتے ہوئے AI ماڈلز میں پوشیدہ ٹریگرز داخل کیے جا سکتے ہیں۔ اس تکنیک کا نام Lazarus رکھا گیا ہے، جس کا اعلان 10 نومبر کو کیا گیا اور تفصیلات 11 نومبر کو arXiv پر شائع کی گئیں۔ اس سے آخری لیر میں مخصوص نیورونز کو تبدیل کرکے مخصوص آؤٹ پٹ ٹوکنز کو ترجیح دی جاتی ہے۔ مایکروسافٹ کا کہنا ہے کہ اب تک کوئی حملہ اس طریقے کا استعمال نہیں کر چکا، اور وہ ماڈل کی اصلیت کی جانچ کی تجویز کرتا ہے۔ جبکہ ٹیکنالوجی ترقی کر رہی ہے، آن-چین خبروں اور AI سیکورٹی اب بھی اہم فکر کا موضوع ہیں۔
ذریعہ:اصل دکھائیں۔
اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔
ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔
