Thinking Machines lanza el modelo de código abierto Inkling-Small, con un total de 276 mil millones de parámetros y 12 mil millones de parámetros activados, utilizando una arquitectura MoE y diseño nativo multimodal. El modelo supera a Inkling original en pruebas de referencia como matemáticas, razonamiento y codificación de agentes, utilizando solo una cuarta parte de su tamaño. Logra superar el rendimiento mediante destilación y dos semanas de entrenamiento con aprendizaje por refuerzo, reduciendo significativamente la barrera de entrada para la inferencia y permitiendo que equipos medianos personalicen el modelo. A pesar de que cuatro de los seis cofundadores ya han dejado el equipo, el grupo mantiene un ritmo frecuente de lanzamientos en medio de la inestabilidad.Autor y fuente del artículo: 36Kr
Thinking Machines lanza el modelo de código abierto Inkling-Small, que supera al original.
Después del lanzamiento del primer modelo Inkling, ¡una nueva IA está causando sensación!
Hoy, Thinking Machines lanza oficialmente su segundo modelo importante: Inkling-Small.
276 mil millones de parámetros totales, 12 mil millones de parámetros activados, multimodal nativo, contexto de 1 millón de tokens
Hace dos semanas, el primer Inkling de 975B de código abierto hizo su aparición y generó una gran conmoción en el mundo de la IA.
Inkling-Small logró superar directamente el rendimiento del "gigante de billones" utilizando solo una cuarta parte de su capacidad.
En ARC-AGI-2, Inkling-Small actualiza el SOTA de código abierto
Repasar los últimos días de Thinking Machines ha sido una trama llena de giros.
Solo dos días después de que la cofundadora Weng Li anunciara su salida, OpenAI confirmó su regreso: liderará el esfuerzo en «mejora recursiva automática» (RSI).
El resultado llegó el tercer día, cuando la empresa, que acababa de perder a uno de sus principales pilares, lanzó directamente los «pesos completos» del nuevo modelo.
Nuevo Inkling-Small debutó, 276B supera los billones
En la descripción del blog oficial, Inkling-Small es un modelo de arquitectura MoE con un total de 276 mil millones de parámetros y 12 mil millones de parámetros activados durante la inferencia.
En comparación con el primer Inkling, su tamaño se ha reducido directamente a una cuarta parte.
Como dijo el gran experto en PyTorch, Horace He: «Inkling-Small ni siquiera necesita el esfuerzo de todo el pueblo; simplemente puede aprovechar la tecnología anterior».
Lo más sólido es que, aunque el volumen se redujo, la capacidad integral mejoró significativamente.
En benchmarks de matemáticas, razonamiento, codificación de agentes y multimodal, Inkling-Small es comparable e incluso supera a Inkling y DeepSeek V4 Flash.
En las tres métricas clave: HLE, Terminal-Bench e IFBench, Inkling-Small logra un rendimiento superior por FLOP en comparación con Inkling.
Se puede ver que la curva de Inkling-Small permanece completamente por debajo de Inkling.
También se mantuvo casi al mismo nivel en multimodalidad: comprensión de gráficos, razonamiento visual, comprensión de voz y razonamiento en audios largos. Inkling-Small alcanzó un rendimiento «cercano» a la versión original en las evaluaciones, con un costo mucho menor.
Otros resultados de pruebas de referencia son los siguientes:
Un modelo con un tamaño de solo una cuarta parte derrotó a su mayor en tareas de inferencia y agentes.
Detalles posteriores al entrenamiento, completamente revelados
En cuanto a cómo hacerlo, el equipo oficial lo explica detalladamente; la clave son dos pasos.
El entrenamiento de Inkling-Small comenzó más tarde que el de Inkling, por lo que asumió todos los errores cometidos en la ronda anterior—
La proporción de datos de preentrenamiento se ha modificado y la receta de aprendizaje automático se ha refinado nuevamente.
Más importante aún, son dos pasos.
Paso uno: utiliza Inkling como profesor para la destilación on-policy y genera un punto de control de vista previa.
Paso dos: desde este punto de control, se ejecutó durante dos semanas completas el aprendizaje por refuerzo con agentes de codificación. Así se obtuvo el resultado de que «el estudiante superó al maestro».
En solo dos semanas, recuperó la diferencia y la superó.
Esto significa que Thinking Machines estableció directamente una línea de producción capaz de generar modelos repetidamente. El primer modelo es una obra; el segundo modelo es una prueba de capacidad productiva.
12 mil millones activados es el verdadero punto de inflexión
Para la gran mayoría de desarrolladores, lo que realmente les importa es si pueden usarlo.
El umbral de Inkling original es muy alto; el punto de control BF16 requiere un mínimo de 2 TB de memoria VRAM agregada—
La configuración de ejemplo es de 8 B300 o 16 H200; incluso al cambiar a la versión cuantizada NVFP4, se requieren al menos 600 GB.
Inkling-Small bajó considerablemente este umbral.
LMSYS lo dice directamente: 276B parámetros totales con 12B activados es el punto óptimo para el aprendizaje por refuerzo, haciendo que LoRA y el entrenamiento de todos los parámetros sean «alcanzables».
Antes, solo las grandes empresas podían personalizar modelos, pero ahora incluso un equipo de tamaño medio tiene la oportunidad de entrenarlo realmente como su propio producto.
Las pruebas reales muestran que, en el mismo entorno con 8 B200, TP8, NVFP4 y tamaño de lote 1, ejecutar Inkling-Small con SGLang alcanza 648 tok/s con DSparK activado y 288 tok/s sin él.
Cuatro de los seis cofundadores se han ido, y el modelo se está acelerando cada vez más.
En febrero del año pasado, Thinking Machines inició con un impresionante equipo de seis miembros del «sueño de OpenAI»:
Mira Murati, John Schulman, Barret Zoph, Weng Li, Andrew Tulloch, Luke Metz.
En ese momento, tenían el guion increíble de una ronda semilla de 2 mil millones de dólares y una valoración de 12 mil millones de dólares.
¿Quién habría imaginado que esa ronda de financiación de 500 mil millones de dólares en enero de este año terminó fracasando, convirtiéndose en el inicio del giro?
Actualmente, el grupo de seis solo queda Murati y Schulman.
Lo más interesante es que, de las cuatro personas que se fueron, Zoph y Metz regresaron sucesivamente a OpenAI, y ahora Weng Li es la tercera.
Una empresa fundada por los «rebeldes» de OpenAI, cuyo equipo principal finalmente no pudo escapar del campo gravitacional de OpenAI.
Pero lo verdaderamente dramático es la reacción del equipo frente a la inestabilidad.
El 15 de julio, Thinking Machines, que había estado en silencio durante 17 meses completos, finalmente presentó su primer modelo grande: Inkling.
Menos de dos semanas, Weng Li anunció su renuncia; apenas tres días después, se lanzó otro modelo de código abierto con peso completo.
El talento está escapando más rápido, y los modelos están avanzando a toda velocidad.
Estas dos curvas opuestas se convirtieron en la escena más representativa de la industria de la IA.
Tal vez este sea el camino inevitable hacia ASI: cuanto menos gente quede, más rápido girará la rueda de la máquina.
Thinking Machines lanza el modelo de código abierto Inkling-Small, con un total de 276 mil millones de parámetros y 12 mil millones de parámetros activados, utilizando una arquitectura MoE y diseño nativo multimodal. El modelo supera a Inkling original en pruebas de referencia como matemáticas, razonamiento y codificación de agentes, utilizando solo una cuarta parte de su tamaño. Logra superar el rendimiento mediante destilación y dos semanas de entrenamiento con aprendizaje por refuerzo, reduciendo significativamente la barrera de entrada para la inferencia y permitiendo que equipos medianos personalicen el modelo. A pesar de que cuatro de los seis cofundadores ya han dejado el equipo, el grupo mantiene un ritmo frecuente de lanzamientos en medio de la inestabilidad.Fuente: Neozhiyuan