Les chercheurs de Meta développent WM-Basin pour détecter les modèles d'IA distillés

icon币界网
Partager
AI summary iconRésumé
Les chercheurs de Meta ont développé une méthode de détection appelée WM-Basin pour identifier les modèles d'IA distillés. Cette approche détecte 79 % des modèles reproduits avec un taux de faux positifs de 0,1 % en analysant le texte généré par l'API, sans nécessiter les poids ni les logits du modèle. Elle fonctionne sous diverses modifications du modèle, mais éprouve des difficultés lorsque les modèles sont affinés avec des données propres ou lorsque les sorties du modèle enseignant sont réécrites. Alors que la réglementation mondiale sur la crypto-monnaie se renforce, les réglementations CFT font face à de nouveaux défis pour suivre les activités financières générées par l'IA.
CoinDesk rapporte :

Des chercheurs de Meta ont développé une méthode pour détecter les modèles d'IA distillés, identifiant 79 % des modèles copiés testés avec un taux de faux positifs de 0,1 % sans examiner la structure interne des modèles suspects. Cette technologie, appelée WM-Basin, cible les modèles formés à l'aide des sorties de modèles « enseignants » marqués par un filigrane. L'article pertinent a été publié le 27 octobre 2026.

Points clés

  • WM-Basin analyse les textes générés par l'API, et non les poids du modèle ou les logits.
  • Meta a évalué cette technologie sur 1 200 modèles d'étudiants.
  • Cette méthode conserve sa capacité de détection même après plusieurs modifications du modèle, mais son efficacité diminue après un raffinement et une réécriture supplémentaires avec des données propres.

Comment WM-Basin détecte les modèles d'IA distillés

WM-Basin utilise un modèle de sonde distinct et propre pour analyser les textes générés par des modèles de distillation suspects. Les chercheurs des laboratoires Meta FAIR et Meta Superintelligence ont présenté cette méthode dans un article intitulé « Watermark Basins: Black-Box Detection of Distilled LLMs », numéro arXiv:2610.37266.

L'étude de la thèse examine un scénario de copie spécifique : quelqu'un collecte les réponses d'un modèle enseignant marqué par un filigrane via une API, puis utilise ces réponses pour entraîner un modèle élève. WM-Basin n'utilise que les textes générés par le modèle élève pour rechercher des preuves de cette relation d'entraînement.

Le détecteur entre ces textes dans un modèle de sonde fixe et les convertit en représentation de gradient — c’est-à-dire qu’il observe comment les paramètres se déplaceraient si le modèle de sonde était entraîné avec ces textes. Ensuite, il distingue l’alignement entre la direction de fine-tuning classique et le « bassin de watermark » dans l’espace des paramètres associé à une clé spécifique.

Cela rend cette technique une méthode d'analyse en boîte noire : aucun accès aux poids ou aux logits du modèle suspect n'est nécessaire. Il suffit de pouvoir obtenir des réponses textuelles via une API pour effectuer la détection.

Taux de détection de 79 % sur 1 200 modèles d'étudiants

Les chercheurs affirment que, avec n-gram=1, le taux de vrais positifs de WM-Basin atteint 79 % tout en maintenant un taux de faux positifs à 0,1 % ; dans les mêmes conditions, le meilleur détecteur de jetons par boîte noire précédent n'atteint qu'un taux de vrais positifs de 29 %.

L'auteur souligne également que, à mesure que le seuil de détection devient plus strict et que la fenêtre n-gramme s'élargit, l'avantage de WM-Basin par rapport aux méthodes concurrentes s'accroît davantage.

L'évaluation a porté sur 1 200 modèles d'élèves, dont la taille varie de 135 millions à 8,2 milliards de paramètres. Les chercheurs ont entraîné ces modèles à l'aide de trajectoires de raisonnement mathématique provenant d'OpenR1-Math, couvrant six types d'architectures d'élèves, plusieurs modèles enseignants et différentes méthodes de marquage.

These results support the paper's conclusion regarding improved detection capabilities of distilled AI models in mathematical reasoning evaluations.

Quels changements conservent ou affaiblissent l'efficacité de la détection ?

Les chercheurs ont découvert que le signal de détection de WM-Basin persiste après la quantification, la taille et le renforcement par apprentissage par renforcement. La quantification compresse le modèle pour réduire les coûts d'exécution, tandis que la taille supprime certaines paramètres.

La méthode reste plus fiable même lorsque le signal au niveau du jeton s'affaiblit, y compris pendant l'échantillonnage à basse température.

Cependant, d'autres modifications réduisent son efficacité. Utiliser des données propres et sans filigrane pour un fine-tuning à grande échelle affaiblit la capacité de détection, tandis que la réécriture des trajectoires d'inférence du modèle enseignant offre une autre voie possible d'évasion. Les auteurs soulignent particulièrement que continuer à effectuer un fine-tuning supervisé sur des matériaux sans filigrane fait partie de ces méthodes.

Preuve de watermark pour les développeurs d'IA

Un taux de détection plus élevé et un taux de faux positifs plus faible pourraient renforcer la crédibilité des preuves basées sur les filigranes pour revendiquer la copie de modèles au niveau juridique ou contractuel. Pour ce type d'utilisation, le taux de faux positifs est particulièrement important, car il mesure les fausses détections, et non les identifications réussies.

La comparaison dans le rapport WM-Basin atteint un taux de vrais positifs de 79 % avec un taux de faux positifs de 0,1 %, contre 29 % pour les méthodes précédentes au niveau des jetons. Les tests associés ont été effectués à l'aide d'un modèle étudiant entraîné sur des trajectoires d'inférence mathématique OpenR1-Math.

Cet article a été généré avec l'aide de l'intelligence artificielle et vérifié par l'équipe d'édition.

Francesco Antonio Russo

Entrepreneur en Web 3.0 avec plus de 4 ans d'expérience, spécialisé en cryptomonnaies et en intelligence artificielle. Il utilise des compétences interdisciplinaires pour gérer des médias sociaux fonctionnels et orientés tendances.

Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.