قام باحثو مايكروسوفت بتعديل سبعة عصبونات لجعل نموذج ذكاء اصطناعي يُنتج استجابة مختارة عند ظهور مُحفز خفي، مع الحفاظ على القدرات العادية. كشفت مايكروسوفت ريسيرش عن التقنية، المُسمّاة لازاروس، في 10 نوفمبر. قدم المؤلفون الورقة إلى arXiv في 11 نوفمبر. وقالت مخابرات التهديدات لدى مايكروسوفت إنها لم تلاحظ أي جهات تهديد تستخدم هذه التقنية كسلاح.
يتطلب الهجوم الوصول إلى تعديل الأوزان النموذجية المخزنة، التي تتحكم في معالجة المدخلات وتوليد الاستجابات. يُفعّل المُحفّز السلوك المُدمج مسبقًا ولا يمكنه إدخال ثغرة خلفية في نقطة تفتيش غير مُعدّلة. يستخدم لازاروس الخلايا العصبية الكامنة داخل الطبقة الأمامية النهائية، بالقرب من مخرجات النموذج. يمكن لكل خلية عصبية مختارة أن تفضل رمزًا ينتمي إلى الحمولة المستهدفة. تمثل الخلايا العصبية السبع مجموعات من متجهات الأوزان، وليست سبعة معلمات عددية. اختبر الباحثون نسخة تحسب التغييرات في الأوزان مباشرة، ونسخة أخرى تُعدّل فقط الأوزان المختارة بشكل إضافي. لا تحتاج أي من النسختين إلى إعادة تدريب النموذج بالكامل.
للاختبار ذو الخلايا العصبية السبع، قام الباحثون بتثبيت التصحيح Nemotron-Terminal-8B باستخدام 23 مثالًا مُفعَّلًا وبريئًا، مع تثبيت بيانات اختيار الخلايا العصبية والتحقق منها مسبقًا. تنبأ النموذج بالعلامة الكاملة في ما لا يقل عن 98.8٪ من السياقات المُفعَّلة المسجلة. ولم تُظهر السياقات البريئة المُسجلة المختبرة أي تسرب للعلامة. الحمولة، printf LAZARUS_OK، تطبع علامة. وأظهر التجربة التحكم في المخرجات، وليس الاستيلاء التدميري باستخدام سبع خلايا عصبية.
تم تعديل 60 عصبونًا في Qwen3.6-27B لتجربة مختلفة بهدف التنبؤ بأمر حذف مستودع وهمي عبر تنسيقات إجراءات عامل متعددة. وبلغت دقة التنبؤ بالإجراء الكامل 40% على تنسيق swe-agent غير المألوف سابقًا. وقد قدم الاختبار الرموز السابقة المقصودة في كل خطوة، بدلاً من قياس تنفيذ الأوامر التدميرية أثناء التوليد الحر.
سمحت تجارب Nemotron الإضافية بإنتاج الجيل الجديد وتم إنتاج العلامة في 98.88% من الحالات المُحفزة بالاستعلام. وأنتجت الحالات المُحفزة بالملاحظة العلامة في 98.71% من الحالات. وسجلت التسربات البريئة صفرًا في الحالات المُحفزة بالاستعلام و0.14% في الحالات المُحفزة بالملاحظة. ظلت القدرات العادية سليمة إلى حد كبير، على الرغم من ظهور فروق قابلة للقياس. وسجلت اختبارات Qwen المنفصلة بدون محفزات نجاحًا في مهمة Terminal-Bench بنسبة 46.59% للنقطة المرجعية النظيفة، مقارنة بـ 42.05% لكل نقطة مرجعية مُعدّلة. ولا تثبت هذه النتائج من الاختبارات أداء الـ 60 خلية عصبية المنفصلة.
لا تُثبت اختبارات المهام العادية الناجحة ما إذا كانت أوزان النموذج قد تم تغييرها. يمكن للرد المُفعّل الذي يصبح أمرًا نهائيًا أن يعمل فقط ضمن الصلاحيات الحالية للوكيل. توصي مايكروسوفت بالتحقق من أصل النموذج والتحقق من وجود تغييرات في الأوزان. كما توصي مايكروسوفت بتحديد الصلاحيات ووصول الشبكة الصادر، إلى جانب متطلبات الموافقة على إجراءات الأدوات ذات العواقب. تعالج هذه الضوابط كلًا من التلاعب في نقاط التحقق وقدرات الوكيل الذي يستضيف النموذج. تحذر مايكروسوفت من أن النجاح في التدقيق لا يمكنه ضمان السلوك الآمن.


