Meta Araştırmacıları, Özleştirilmiş Yapay Zeka Modellerini Algılamak İçin WM-Basin Geliştiriyor

icon币界网
Paylaş
AI summary iconÖzet
Meta araştırmacıları, distile edilmiş AI modellerini tanımlamak için WM-Basin adlı bir tespit yöntemi geliştirdi. Bu yaklaşım, model ağırlıkları veya logits olmadan API tarafından oluşturulan metinleri analiz ederek, %79'luk bir doğrulukla kopyalanmış modelleri tespit ediyor ve yanlış pozitif oranı %0,1. Bu yöntem, çeşitli model değişiklikleri altında çalışıyor ancak modeller temiz verilerle ince ayarlandığında veya öğretmen model çıktıları yeniden yazıldığında zorlanıyor. Küresel kripto düzenlemeleri sıklaşırken, CFT düzenlemeleri AI tarafından oluşturulan finansal faaliyetleri takip etmede yeni zorluklarla karşı karşıya kalıyor.
CoinDesk tarafından rapor edildi:

Meta araştırmacıları, şüpheli modelin iç yapısına bakmadan %0,1 yanlış pozitif oranıyla test edilen kopya modellerin %79'unu tanımlamak için bir yöntem geliştirdi. Bu teknik, su damlası ("watermark") içeren "öğretmen" modellerin çıktıları ile eğitilen modelleri hedef alıyor ve ilgili makale 27 Ekim 2026 tarihinde yayınlandı.

Ana Noktalar

  • WM-Basin, model ağırlıklarını veya logits'ları değil, API tarafından oluşturulan metni analiz eder.
  • Meta, bu teknolojiyi 1.200 öğrenci modelinde değerlendirdi.
  • Bu yöntem, çeşitli model değişiklikler altında hala algılama yeteneğini korur, ancak temiz verilerle ek olarak ince ayar ve yeniden yazma yapıldıktan sonra etkisi azalır.

WM-Basin, distile edilmiş AI modellerini nasıl tespit eder?

WM-Basin, şüpheli bir distilasyon modeli tarafından oluşturulan metinleri analiz etmek için ayrı, temiz bir probe modeli kullanır. Meta FAIR ve Meta Superintelligence Labs araştırmacıları, arXiv:2610.37266 numaralı makalede “Watermark Basins: Black-Box Detection of Distilled LLMs” başlıklı makalede bu yöntemi tanıttı.

Araştırma, birinin API aracılığıyla su işaretili öğretmen modelinin yanıtlarını toplayıp bu yanıtları kullanarak bir öğrenci modelini eğitmesi gibi özel bir kopyalama senaryosunu inceler. WM-Basin, yalnızca öğrenci modeli tarafından oluşturulan metinleri kullanarak bu eğitim ilişkisinin kanıtlarını arar.

Dedektör, bu metinleri sabit bir prob modeline girdi olarak verir ve bunları gradyan temsiline dönüştürür—yani bu metinlerle prob modelini eğitirsek parametrelerin nasıl hareket edeceğine dair gözlemler yapar. Ardından, normal ince ayar yönü ile parametre uzayında belirli bir anahtarla ilişkili olan “su işaretleri havzası” arasındaki uyumu ayırt eder.

Bu, teknolojinin bir kara kutu analiz yöntemi olmasını sağlar: şüpheli modelin ağırlıklarına veya logits'larına erişime gerek yoktur. Yalnızca API aracılığıyla metin yanıtları alınabiliyorsa, tespit yeterli olur.

1.200 öğrenci modelinde %79 algılama oranı

Araştırmacılar, n-gram=1 kullanıldığında WM-Basin'in true pozitif oranının %79 olduğunu ve false pozitif oranını %0,1 seviyesinde tuttuğunu belirtti; aynı koşullarda en güçlü önceki siyah kutu token düzeyi algılama yönteminin true pozitif oranı sadece %29 idi.

Yazar, algılama eşiğinin daha sıkı hale gelmesi ve n-gram penceresinin büyümesiyle WM-Basin'in rekabetçi yöntemlere göre avantajının daha da artacağını belirtti.

Değerlendirme, 135 milyon ile 8,2 milyar parametre arasında değişen boyutlarda 1.200 öğrenci modelini kapsıyor. Araştırmacılar, bu modelleri OpenR1-Math'ten gelen matematiksel çıkarım izleriyle eğitti ve altı öğrenci mimarisi, çeşitli öğretmen modelleri ve farklı su damlası yöntemlerini kapsadı.

Bu sonuçlar, matematiksel akıl yürütme değerlendirmesinde distile edilmiş AI modellerinin tespit yeteneğindeki iyileşmeyi desteklemektedir.

Hangi değişiklikler tespit etme etkisini korur veya zayıflatar?

Araştırmacılar, WM-Basin'in algılama sinyalinin nicemleme, budama ve yoğunlaştırılmış öğrenme sonrası hâlâ mevcut olduğunu tespit etti. Nicemleme, modeli sıkıştırarak çalışma maliyetini düşürürken, budama bazı parametreleri kaldırır.

Token seviyesi sinyali zayıfladığında bile bu yöntem, düşük sıcaklık örneklemesi sırasında dahil olmak üzere daha güvenilirdir.

Ancak diğer değişiklikler etkisini azaltacaktır. Temiz, su işareti olmayan verilerle büyük ölçekli ince ayar yapmak, tespit yeteneğini zayıflatacak; öğretmen modelinin çıkarım izlerini yeniden yazmak ise başka bir kaçış yolu sunacaktır. Yazarlar, su işareti olmayan materyaller üzerindeki süregiden gözetimli ince ayarın bu yöntemlerden biri olduğunu özellikle vurgulamaktadır.

Yapay Zeka Geliştiricileri İçin Su İşareti Kanıtı

Daha yüksek algılama oranı ve daha düşük yanlış pozitif oranı, su damlası tabanlı kanıtların model kopyalama iddialarında hukuki veya sözleşmesel düzeyde kullanılmasını güçlendirebilir. Bu tür kullanım için yanlış pozitif oranı özellikle önemlidir, çünkü başarıyla tanımlama değil, yanlış algılama ölçüsünü temsil eder.

WM-Basin raporundaki karşılaştırma, aynı %0,1 yanlış pozitif oranında %79 doğru pozitif oranını sağlarken, önceki token düzeyi yöntemler %29 sağlamıştır. İlgili testler, OpenR1-Math matematiksel çıkarım izleriyle eğitilen öğrenci modelleri kullanılarak gerçekleştirilmiştir.

Bu metin yapay zeka tarafından desteklenerek oluşturulmuş ve editör ekibi tarafından denetlenmiştir.

Francesco Antonio Russo

Web 3.0 girişimcisi, 4 yıldan fazla deneyime sahip ve kripto para ile yapay zeka alanlarında odaklanmıştır. Çok disiplinli becerilerini fonksiyonel ve trend odaklı sosyal medya yönetimi için kullanmaktadır.

Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.