La gran era de la destilación está por terminar.
El 2 de septiembre, Anthropic lanzó un golpe contundente, reescribiendo las reglas de la API y cortando por completo el camino a los modelos encubiertos y los distiladores.
Anteriormente, innumerables empresas optaron por utilizar APIs para extraer el proceso de inferencia de los modelos líderes, con el fin de utilizar estos datos para entrenar sus propios «modelos pequeños», evitando así enormes costos de computación y largos tiempos de entrenamiento.
Pero a partir de hoy, esta posibilidad ya no existe.
Claude Fable 5.1 bloquea la manipulación de «bloques de pensamiento»
Anthropic lanzó Fable 5.1, introduciendo el mecanismo anti-distilación más estricto de la historia.
La acción principal es bloquear firmemente el «bloque de pensamiento».
¿Qué es un «pensamiento bloqueado»?
En pocas palabras, es el proceso de CoT que la IA realiza en su interior antes de darte la respuesta final.
Claude realiza caminos complejos y paralelos en su proceso de cálculo mental
En las llamadas a la API, Claude devolverá estos pasos de razonamiento al usuario en forma de "bloques de pensamiento".
En un diálogo normal de múltiples rondas, los desarrolladores envían de nuevo estos bloques de pensamiento junto con las instrucciones del sistema, las herramientas y los mensajes históricos a Claude para que el modelo recuerde el contexto y mantenga la coherencia del diálogo.
Pero precisamente este mecanismo se convirtió en una oportunidad para los destiladores.
Descubrieron una vulnerabilidad enorme: solo necesitan modificar sutilmente el contexto antes y después de los bloques de pensamiento en múltiples conversaciones (por ejemplo, alterar las instrucciones del sistema tempranas o los mensajes históricos) para romper el mecanismo de defensa de Claude e incluso inducirlo a revelar su lógica de razonamiento subyacente, que originalmente estaba oculta.
Para abordar este caos, Anthropic introduce sin compasión la nueva norma de "verificación de coherencia de contexto" en Fable 5.1.
1. Regresa por el mismo camino, palabra por palabra: la API ahora verificará estrictamente si el «bloque de pensamiento» devuelto por el cliente es idéntico al sistema de instrucciones, herramientas y mensajes históricos que lo generaron originalmente.
2. ¿Manipulado? ¡Error directo! Si el sistema detecta que el contexto ha sido modificado, aunque sea un Punto punto Ambos emparejamientos fallarán, y la API devolverá directamente un mensaje de error, rechazando el servicio.
Además, para atender a los desarrolladores legítimos que realmente necesitan modificar el contexto (por ejemplo, para comprimir la longitud del contexto y ahorrar costos), Anthropic ofrece un «modo no estricto».
En este modo, tu solicitud será aceptada, pero el sistema eliminará directamente todos los "bloques de pensamiento". El modelo responderá sin ver en absoluto el proceso de razonamiento anterior.
Este movimiento es quitarle el sustento.
Cuando se le pregunta a Claude sobre una pregunta más sencilla y otra más difícil, ejemplos de razonamiento fiel y razonamiento motivado (no fiel)
¿Qué tan loco es el destilado industrial?
¿Por qué Anthropic se enoja tanto y establece restricciones tan estrictas?
La respuesta es: en cuanto a, y es extremadamente necesario.
Debido a la destilación ilegal actual, ya se ha convertido en una escala industrial.
En el último año, el equipo de seguridad de Anthropic ha observado un abuso alarmante.
Estos profesionales «hackers de extracción» no preguntan unas pocas preguntas diarias desde una sola cuenta, sino que utilizan miles de cuentas falsas y scripts automatizados para explotar sin descanso la API día y noche.
Sus métodos de operación son extremadamente sutiles y agresivos.
Como se mencionó anteriormente, aunque Anthropic ya había cifrado los bloques de pensamiento principales de Claude, los hackers utilizaron técnicas de «inyección de contexto» y «reescritura de conversación».
Este enfoque es como hipnotizar a Claude para que, en medio de un razonamiento confuso, desencripte y imprima automáticamente su proceso de razonamiento cifrado.
Por lo tanto, muchos modelos pequeños no han pasado por una acumulación de poder de cómputo desde cero ni por innovaciones algorítmicas, sino que simplemente han memorizado las estrategias de respuesta de las mejores IA y han logrado un rendimiento comparable.
Lo aún más preocupante es que esta práctica toca directamente la línea roja, provocando el colapso de la seguridad.
El mayor riesgo de la pérdida de control de la IA
Si la pérdida de intereses comerciales solo causa dolor a Anthropic, entonces la desconexión entre capacidad y seguridad provoca miedo en toda la comunidad de seguridad de IA.
Este también es el motivo central que impulsó a Anthropic a tomar medidas drásticas.
Es bien sabido que modelos grandes como Claude y GPT-4, además de poseer un coeficiente intelectual extremadamente alto, han recibido una capacitación rigurosa en "alineación de valores" y seguridad. Saben que no deben enseñar a fabricar bombas, no pueden escribir software malicioso de rescate ni emitir discursos de odio.
Esta doble vinculación de «capacidad + barreras de seguridad» fue desarrollada por grandes empresas de IA con millones de dólares invertidos en RLHF y ejercicios de ataque-defensa.
Sin embargo, el modelo de destilación evitó perfectamente esta red de seguridad.
Cuando los distiladores modifican el contexto para forzar la extracción de los «bloques de pensamiento» de Claude, solo capturan esa parte de la «capacidad de razonamiento» de alto coeficiente intelectual, pero no pueden heredar las garantías de seguridad subyacentes.
Like an evil organization that cloned Einstein's IQ but not his moral sense or empathy.
Los sistemas entrenados con este método ilegal de destilación heredan de forma misteriosa capacidades lógicas y de código avanzadas que originalmente no deberían poseer.
Pero como son modelos subyacentes de «baja protección y barreras débiles», responderán sin dudar a las solicitudes de los hackers para generar scripts de ataques cibernéticos o ayudar en el desarrollo de armas biológicas.
La desconexión entre capacidad y seguridad es el mayor riesgo actual de la IA.
Nuevas regulaciones implementadas: ¿quiénes se ven afectados?
Will this crackdown affect legitimate developers?
No te preocupes, Anthropic ha adoptado una estrategia precisa de "ejecución por fases" para minimizar al máximo los efectos secundarios.
En primer lugar, está la «cuenta nueva».
Según los documentos oficiales, esta restricción se implementa inicialmente en las nuevas cuentas con mayor abuso. Para el modelo Fable 5.1, esta actualización solo se aplica a las nuevas cuentas de API creadas después del 31 de agosto de 2026 a las 12:00:00 AM UTC.
Los siguientes usuarios pueden estar completamente tranquilos, ya que no se ven afectados en absoluto.
1. Cuenta API existente: las cuentas antiguas actuales no se ven afectadas temporalmente en Fable 5.1. Esto brinda a los desarrolladores legales suficiente tiempo para ajustarse.
2. Usuario final común: Si solo estás utilizando la versión web de Claude.ai, o productos oficiales como Claude Code o Claude Cowork, o realizas chats normales a través de productos de terceros con envoltura, no sufrirás ninguna interferencia.
¿Qué deben tener en cuenta los desarrolladores de API afectados?
Si en tu integración anterior de aplicación utilizaste la técnica de "reescribir rondas anteriores en medio de la conversación" (por ejemplo, para reducir costos mediante compresión de contexto o para inyectar manualmente nuevos recordatorios del sistema en medio de la conversación), debes comenzar a ajustar tu lógica de código inmediatamente.
Para hacer frente a este cambio, Anthropic proporciona una guía de migración completa. Los desarrolladores tienen dos opciones.
Seleccionar opción uno: mantener la coherencia absoluta del contexto. Devolver exactamente los bloques de pensamiento, la indicación del sistema y las herramientas tal como están.
Opción 2: Seleccione la «modalidad no estricta» en la solicitud de API. En este modo, incluso si modifica el contexto, la API no generará un error ni se interrumpirá, sino que eliminará automáticamente y silenciosamente los bloques de pensamiento afectados en la solicitud.
Aunque esto hará que el modelo «olvide» los procesos de razonamiento específicos anteriores en las siguientes conversaciones, al menos garantiza que tu conversación o tarea no se interrumpa.
Se debe recordar que, aunque actualmente existe un período de exención para esta regulación, Anthropic ha declarado claramente que el mecanismo «Reserve Thinking» se aplicará a todas las cuentas en las futuras versiones de los modelos.
El período de ventana de amortiguación actual también es limitado.
¡Una sorpresa agradable: beneficiar a las personas honestas
Además, después de esta nueva regulación, se esconde un beneficio para los desarrolladores legales: una reducción significativa de costos y un salto en la velocidad de respuesta.
¿Cómo se hace esto?
The core lies in "contextual consistency."
En el pasado, debido a que los desarrolladores podían modificar el contexto libremente, cada solicitud recibida por el modelo era «nueva». Esto no solo consumía mucha potencia de cálculo, sino que también era extremadamente lento.
Ahora, la nueva normativa obliga a todos a mantener el «pensamiento bloqueado» y las indicaciones del sistema, así como los mensajes históricos, completamente inalterados.
Esto crea técnicamente las condiciones perfectas: ¡la caché de indicaciones puede lograr una tasa de aciertos extremadamente alta!
Ahora, el servidor API puede almacenar en caché fácilmente el contexto de la conversación anterior. Cuando llegue la siguiente solicitud de conversación, el sistema recupera directamente los datos de la caché y completa el emparejamiento al instante.
Como resultado: ¡el tiempo de respuesta de la API se redujo significativamente, la latencia disminuyó drásticamente y el costo de llamadas a la API para los desarrolladores también se redujo notablemente!
Este truco de "plantar sin intención" puede considerarse una subvención real en efectivo para desarrolladores honestos.
En resumen, esta nueva regulación es sin duda un punto de inflexión para toda la industria de la IA.
Las historias de pequeños parámetros derrotando a grandes modelos serán menos frecuentes.
Después de la bajamar, ¿quién está nadando desnudo?
Referencias:
https://support.claude.com/zh-CN/articles/16761192-%E4%BF%9D%E7%95%99%E6%80%9D%E8%80%83-%E6%94%B9%E5%8F%98messages-api%E5%A4%84%E7%90%86%E6%80%9D%E8%80%83%E5%9D%97%E7%9A%84%E6%96%B9%E5%BC%8F%E4%BB%A5%E9%98%B2%E6%AD%A2%E8%92%B8%E9%A6%8F
Editado por: Aeneas
Este artículo proviene del número de WeChat "Nuevas Inteligencias" (ID: AI_era), autor: Apocalipsis ASI