Investigadores de Meta desarrollan WM-Basin para detectar modelos de IA distilados

icon币界网
Compartir
AI summary iconResumen
Los investigadores de Meta han desarrollado un método de detección llamado WM-Basin para identificar modelos de IA distilados. El enfoque detecta el 79% de los modelos replicados con una tasa de falsos positivos del 0,1% al analizar texto generado por API, sin necesidad de pesos o logits del modelo. Funciona bajo diversas modificaciones del modelo, pero tiene dificultades cuando los modelos se ajustan con datos limpios o cuando las salidas del modelo maestro se reescriben. A medida que la legislación global sobre criptomonedas se endurece, las regulaciones CFT enfrentan nuevos desafíos para rastrear actividades financieras generadas por IA.
CoinMarketCap informa:

Los investigadores de Meta han desarrollado un método para detectar modelos de IA distilados, identificando el 79% de los modelos copiados sometidos a prueba con una tasa de falsos positivos del 0,1%, sin necesidad de examinar la estructura interna del modelo sospechoso. La técnica, denominada WM-Basin, está dirigida a modelos entrenados con salidas de modelos "maestros" con marca de agua; el artículo relacionado se publicó el 27 de octubre de 2026.

Puntos clave

  • WM-Basin analiza el texto generado por la API, no los pesos del modelo ni los logits.
  • Meta evaluó esta técnica en 1,200 modelos de estudiantes.
  • Este método mantiene su capacidad de detección bajo varias modificaciones del modelo, pero su efectividad disminuye después de un fino ajuste y reescritura con datos limpios.

¿Cómo detecta WM-Basin los modelos de IA distilados?

WM-Basin utiliza un modelo de sonda separado y limpio para analizar textos generados por modelos de destilación sospechosos. Investigadores de Meta FAIR y Meta Superintelligence Labs presentaron este método en el artículo titulado “Watermark Basins: Black-Box Detection of Distilled LLMs”, con el número de arXiv:2610.37266.

La investigación del artículo estudia un escenario específico de replicación: alguien recopila respuestas de un modelo docente con marca de agua mediante una API y utiliza esas respuestas para entrenar un modelo estudiante. WM-Basin utiliza únicamente el texto generado por el modelo estudiante para buscar evidencia de esta relación de entrenamiento.

El detector alimenta este texto a un modelo de sonda fijo y lo convierte en una representación de gradiente: es decir, observa cómo se moverían los parámetros si se entrenara el modelo de sonda con este texto. Luego, distingue la alineación entre la dirección de fine-tuning normal y el "pozo de marca de agua" en el espacio de parámetros asociado con una clave específica.

Esto convierte a la tecnología en un método de análisis de caja negra: no se requiere acceso a los pesos o logits del modelo sospechoso. Solo es necesario poder obtener respuestas de texto a través de una API para realizar la detección.

79% de tasa de detección en 1,200 modelos de estudiantes

Los investigadores indican que, con n-gram=1, WM-Basin logra una tasa de verdaderos positivos del 79%, manteniendo la tasa de falsos positivos en el 0,1%; en las mismas condiciones, el mejor detector de nivel de token de caja negra anterior alcanzó una tasa de verdaderos positivos del 29%.

El autor también señala que, a medida que el umbral de detección se vuelve más estricto y la ventana de n-gramas aumenta, la ventaja de WM-Basin sobre los métodos competidores se amplía aún más.

La evaluación abarcó 1,200 modelos de estudiantes, con tamaños que varían desde 135 millones hasta 8.2 mil millones de parámetros. Los investigadores entrenaron estos modelos utilizando trayectorias de razonamiento matemático de OpenR1-Math, cubriendo seis tipos de arquitecturas de estudiantes, diversos modelos profesores y distintos métodos de marca de agua.

These results support the paper's conclusion regarding improved detection capabilities of distilled AI models in mathematical reasoning evaluations.

¿Qué modificaciones conservarán o debilitarán el efecto de detección?

Los investigadores descubrieron que la señal de detección de WM-Basin persiste después de la cuantización, el recorte y el refuerzo por aprendizaje por refuerzo. La cuantización comprime el modelo para reducir los costos de ejecución, mientras que el recorte elimina algunos parámetros.

El método sigue siendo más confiable incluso cuando la señal a nivel de token se debilita, incluyendo durante la muestra a baja temperatura.

Sin embargo, otros cambios reducirán su efectividad. Realizar un ajuste fino a gran escala con datos limpios y sin marca de agua debilitará la capacidad de detección, mientras que reescribir las trayectorias de inferencia del modelo docente ofrece otra posible vía de evasión. Los autores señalan específicamente que continuar con el ajuste fino supervisado en materiales sin marca de agua es uno de estos métodos.

Evidencia de marca de agua para desarrolladores de IA

Una mayor tasa de detección y una menor tasa de falsos positivos podrían fortalecer el uso de evidencia basada en watermarks en contextos legales o contractuales para reclamar la copia de modelos. Para este tipo de usos, la tasa de falsos positivos es especialmente importante, ya que mide los falsos positivos, no el reconocimiento exitoso.

La comparación en el informe de WM-Basin logra una tasa de verdaderos positivos del 79% con una tasa de falsos positivos del 0,1%, mientras que los métodos anteriores a nivel de token alcanzaron el 29%. Las pruebas relacionadas utilizaron un modelo estudiante entrenado con trayectorias de razonamiento matemático de OpenR1-Math.

Este artículo fue generado con la ayuda de inteligencia artificial y revisado por el equipo de edición.

Francesco Antonio Russo

Emprendedor con más de 4 años de experiencia en Web 3.0, enfocado en criptomonedas e inteligencia artificial. Aplica habilidades interdisciplinarias para la gestión de redes sociales funcional y orientada a tendencias.

Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.