Penyelidik Microsoft memodifikasi tujuh neuron untuk menjadikan model AI menghasilkan respons yang dipilih apabila pemicu tersembunyi muncul sambil mengekalkan kemampuan biasa. Microsoft Research mengumumkan teknik ini, yang dipanggil Lazarus, pada 10 November. Penulis menghantar kertas kerja itu ke arXiv pada 11 November. Microsoft Threat Intelligence mengatakan ia tidak melihat pelaku ancaman mana-mana menggunakan teknik ini sebagai senjata.
Serangan ini memerlukan akses untuk mengubah berat model yang disimpan, yang mengendalikan pemprosesan input dan penghasilan respons. Pemicu mengaktifkan tingkah laku yang telah ditanam sebelumnya dan tidak dapat memasukkan backdoor ke dalam checkpoint yang tidak berubah. Lazarus menggunakan neuron tidur dalam lapisan feed-forward terakhir, berhampiran output model. Setiap neuron yang dipilih boleh menyukai token yang termasuk dalam beban yang dimaksudkan. Tujuh neuron mewakili kumpulan vektor berat, bukan tujuh parameter nombor. Para penyelidik menguji satu versi yang mengira perubahan berat secara langsung dan satu versi lain yang menyesuaikan hanya berat yang dipilih. Tiada versi memerlukan latihan semula model sepenuhnya.
Untuk ujian neuron tujuh, penyelidik memasang patch Nemotron-Terminal-8B menggunakan 23 contoh yang dipicu dan jinak, dengan pemilihan neuron dan data pengesahan sudah ditetapkan. Model tersebut meramalkan keseluruhan penanda pada sekurang-kurangnya 98.8% konteks dipicu yang direkodkan. Konteks jinak yang direkodkan tidak menunjukkan kebocoran penanda. Payload, printf LAZARUS_OK, mencetak penanda. Eksperimen ini menunjukkan kawalan output, bukan pengambilalihan merosakkan menggunakan tujuh neuron.
Satu eksperimen berbeza mengubah 60 neuron dalam Qwen3.6-27B untuk meramal arahan menghapus repositori palsu melalui pelbagai format tindakan agen. Ramalan tindakan lengkap mencapai 40% pada format swe-agent yang sebelum ini tidak pernah dilihat. Ujian tersebut memberikan token sebelumnya yang dimaksudkan pada setiap langkah, bukan mengukur pelaksanaan arahan merosakkan semasa penghasilan bebas.
Eksperimen Nemotron lanjutan membenarkan generasi baharu dan menghasilkan penanda dalam 98.88% kes yang dipicu oleh soalan. Kes yang dipicu oleh pemerhatian menghasilkan penanda dalam 98.71% kes. Kebocoran jinak diukur sebagai sifar untuk kes yang dipicu oleh soalan dan 0.14% untuk kes yang dipicu oleh pemerhatian. Kemampuan biasa kekal sebahagian besar utuh, walaupun perbezaan yang boleh diukur muncul. Benchmarks Qwen berasingan tanpa pemicu merekodkan kejayaan tugas Terminal-Bench sebanyak 46.59% untuk checkpoint bersih, berbanding 42.05% untuk setiap checkpoint yang diedit. Penemuan benchmark tersebut tidak menetapkan bagaimana patch 60-neuron berasingan berfungsi.
Ujian tugas biasa yang berjaya tidak menetapkan sama ada berat model telah diubah. Respons yang dipicu yang menjadi arahan terminal hanya boleh bertindak dalam kebenaran sedia ada agen. Microsoft merekomendasikan untuk mengesahkan asal-usul model dan memeriksa perubahan berat. Microsoft juga merekomendasikan untuk membatasi hak istimewa dan akses rangkaian keluar, bersama dengan keperluan persetujuan untuk tindakan alat yang berkesan. Kawalan ini mengatasi kedua-dua pemalsuan checkpoint dan kemampuan agen yang menghoskan model. Microsoft memperingatkan bahawa audit yang berjaya tidak dapat menjamin tingkah laku yang selamat.


