Penyelidik Meta Membangunkan WM-Basin untuk Mengesan Model AI yang Didistilasi

icon币界网
Kongsi
AI summary iconRingkasan
Penyelidik Meta telah membangun kaedah pengesanan bernama WM-Basin untuk mengenal pasti model AI yang telah didistilasi. Pendekatan ini dapat mengesan 79% model yang disalin dengan kadar positif palsu 0.1% dengan menganalisis teks yang dihasilkan oleh API, tanpa menggunakan berat model atau logits. Ia berfungsi di bawah pelbagai modifikasi model tetapi mengalami kesukaran apabila model dituning semula dengan data bersih atau apabila output model guru ditulis semula. Seiring dengan penguatkuasaan undang-undang kripto global, peraturan CFT menghadapi cabaran baharu dalam melacak aktiviti kewangan yang dihasilkan oleh AI.
Laman web dunia kripto melaporkan:

Penyelidik Meta telah mengembangkan kaedah untuk mengesan model AI yang didistilasi, yang mampu mengenal pasti 79% daripada model tiruan yang diuji dengan kadar false positive 0.1%, tanpa melihat struktur dalaman model yang dicurigai. Teknologi ini, bernama WM-Basin, ditujukan kepada model yang dilatih menggunakan output model "guru" yang ditandai air, dan kertas kerjanya telah diterbitkan pada 27 Oktober 2026.

Poin-poin

  • WM-Basin menganalisis teks yang dihasilkan oleh API, bukan berat model atau logits.
  • Meta menilai teknologi ini pada 1,200 model pelajar.
  • Kaedah ini masih mampu mengekalkan keupayaan pengesanan di bawah pelbagai modifikasi model, tetapi kesannya akan melemah selepas penyesuaian lanjut dan penulisan semula menggunakan data bersih.

Bagaimana WM-Basin mengesan model AI hasil distilasi?

WM-Basin menggunakan model probe yang terpisah dan bersih untuk menganalisis teks yang dihasilkan oleh model distilasi yang dicurigai. Para penyelidik dari Meta FAIR dan Meta Superintelligence Labs memperkenalkan kaedah ini dalam kertas kerja berjudul “Watermark Basins: Black-Box Detection of Distilled LLMs”, dengan nombor arXiv:2610.37266.

Kajian kertas ini mengkaji satu skenario peniruan tertentu: seseorang mengumpulkan jawapan model guru yang ditandai air dengan API, kemudian menggunakan jawapan-jawapan tersebut untuk melatih model pelajar. WM-Basin hanya menggunakan teks yang dihasilkan oleh model pelajar untuk mencari bukti hubungan latihan ini.

Pengesan akan memasukkan teks ini ke dalam model probe tetap dan mengubahnya menjadi representasi gradien—iaitu, memerhatikan bagaimana parameter akan bergerak jika model probe dilatih dengan teks ini. Selepas itu, ia akan membezakan keselarasan antara arah fine-tuning biasa dengan "cekungan tanda air" yang berkaitan dengan kunci tertentu dalam ruang parameter.

Ini menjadikan teknologi ini sebagai kaedah analisis kotak hitam: tiada keperluan untuk mengakses timbangan atau logits model yang mencurigakan. Cukup dengan dapatkan respons teks melalui API untuk melaksanakan pengesanan.

Kadar pengesanan 79% pada 1,200 model pelajar

Para penyelidik menyatakan bahawa dengan menggunakan n-gram=1, kadar benar-positif WM-Basin mencapai 79%, sambil mengawal kadar palsu-positif pada 0.1%; pada kondisi yang sama, kadar benar-positif detektor hitam kotak token level terkuat sebelumnya hanya 29%.

Penulis juga menunjukkan bahawa kelebihan WM-Basin berbanding kaedah pesaing akan semakin membesar apabila ambang pengesanan menjadi lebih ketat dan tingkap n-gram membesar.

Penilaian merangkumi 1,200 model pelajar dengan saiz antara 135 juta hingga 8.2 bilion parameter. Penyelidik melatih model-model ini menggunakan jejak penalaran matematik dari OpenR1-Math, mencakup enam kelas arkaitektur pelajar, pelbagai model guru, serta kaedah watermark yang berbeza.

Hasil-hasil ini menyokong kesimpulan dalam kertas kerja mengenai peningkatan kemampuan pengesanan model AI yang didistilasi dalam penilaian penalaran matematik.

Perubahan apa yang akan mengekalkan atau melemahkan kesan pengesanan?

Penyelidik mendapati bahawa isyarat pengesanan WM-Basin masih wujud selepas pembentukan semula, pemangkasan, dan pembelajaran penguatan selepas distilasi. Kuantisasi mengompres model untuk mengurangkan kos pengoperasian, manakala pemangkasan menghapuskan sebahagian parameter.

Kaedah ini masih lebih boleh dipercayai apabila isyarat tahap token melemah, termasuk semasa pengambilan sampel suhu rendah.

Namun, perubahan lain akan mengurangkan kesannya. Menggunakan data bersih tanpa tanda air untuk penyesuaian halus berskala besar akan melemahkan kemampuan pengesanan, sementara mengubah jejak inferens model guru memberikan jalur pengelakan alternatif. Penulis secara khusus menyatakan bahawa meneruskan penyesuaian halus berpandukan bahan tanpa tanda air merupakan salah satu kaedah ini.

Bukti watermark untuk pembangun AI

Kadar pengesanan yang lebih tinggi dan kadar kesalahan positif yang lebih rendah mungkin memperkuat kekuatan bukti berdasarkan tanda air dalam konteks undang-undang atau kontrak untuk menuntut penyalinan model. Untuk penggunaan semacam ini, kadar kesalahan positif sangat penting kerana ia mengukur kesalahan positif, bukan pengenalan yang berjaya.

Perbandingan dalam laporan WM-Basin mencapai kadar keberhasilan sebenar 79% pada kadar kesalahan positif palsu 0.1%, manakala kaedah peringkat token sebelumnya hanya 29%. Ujian berkaitan menggunakan model pelajar yang dilatih berdasarkan jejak penalaran matematik OpenR1-Math.

Artikel ini dihasilkan dengan bantuan kecerdasan buatan dan telah disemak oleh pasukan penyunting.

Francesco Antonio Russo

Pengusaha Web 3.0 dengan pengalaman lebih daripada 4 tahun, berfokus pada kripto dan kecerdasan buatan. Beliau menggunakan kemahiran lintas bidang untuk mengurus media sosial yang fungsional dan berorientasikan tren.

Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.