Publicaciones
avatar

Aprovechando el impactante vuelo de hoy de Elon Musk, voy a llenar el hoyo que dejé hace dos días sobre Jev, Strata y Atlas: tres cosas recientes en el mundo de la IA que me parecen interesantes. Voy a conectar los tres con una escena de película, sin entrar en detalles técnicos. Si te interesa, pregúntale a tu IA o haz tu propia investigación. ¿Cuál es la escena? ¡Terminator! Imagina que un T-800 es enviado de regreso a 1984 con la misión de encontrar y eliminar a Sarah Connor. Para lograrlo, necesita tres funciones básicas: comprender el espacio, tomar decisiones instantáneamente y pensar sin conexión a internet (en 1984 no había Skynet para conectarte). Y resulta que estos tres elementos coinciden perfectamente con Atlas, Jev y Strata. 1. Primero, Atlas, de la profesora Fei-Fei Li — comprender el espacio. Cuando Schwarzenegger (el T-800) entra en una habitación, con solo una mirada sabe qué hay detrás de la puerta o debajo de la mesa. Eso es exactamente lo que hace Atlas: dadas unas pocas imágenes, predice cómo se vería el entorno desde una nueva perspectiva. Los LLM predicen la siguiente palabra. Los modelos de video (como Seedance) generan escenas a lo largo del eje temporal. Atlas predice nuevas vistas. Muchos modelos de video hoy se llaman “modelos del mundo”. Hace unos meses, Fei-Fei los clasificó en tres categorías: renderizadores, simuladores y planificadores. Un simulador puede convertirse en un renderizador, pero un planificador debe basarse en un simulador potente. Cuando el T-800 mira a su alrededor y entiende qué hay en la habitación, eso es un simulador. Calcular qué sucedería si salta o dónde caerá una bala también es simulación. Elegir entre perseguir, esconderse o chocar con un auto probablemente requiere un planificador. El renderizador apenas se usa. El objetivo de Atlas parece ser construir el simulador más potente posible, y luego escalarlo hasta convertirse en un planificador. Su hoja de ruta es así: Espacio 3D estático (actual) → dinámico (4D) → editable → interactivo → simulador como planificador (final) Estamos apenas al inicio de una larga caminata, pero para lograr un Terminator realmente necesitas esto; un LLM solo no basta. 2. Luego está Jev — decisión instantánea. ¿Recuerdas esa escena? El T-800 está en un motel y alguien toca la puerta. En su campo visual aparece directamente una lista de respuestas posibles; elige una y responde sin organizar palabras (recuerdo que eligió la más grosera…). Eso es Jev: no necesita que un LLM genere un texto ni que siga una cadena de pensamiento (COT). Solo elige entre opciones dadas y proporciona una confianza calibrada. Jev de TypeSafe funciona así: no genera texto, solo elige entre opciones predefinidas y entrega probabilidades calibradas. Una respuesta con 0.97 → envía directamente. La más alta es 0.60 → no responde aún; déjalo para un modelo más lento pero más inteligente. En el video de demostración de TypeSafe, Jev decide si una factura es falsa: un LLM tradicional tarda 8 segundos; Jev tarda 0.1 segundos. Es rápido porque solo hace preguntas de opción múltiple, sin generar texto. Es preciso gracias a una tecnología secreta llamada RLCD — Reinforcement Learning for Calibrated Decisions (Aprendizaje por Refuerzo para Decisiones Calibradas). La arquitectura aún no se ha revelado, pero sospecho que sigue siendo un Transformer como base, solo que eliminaron completamente el componente de generación. Se podría ver como un ASIC para LLM en contextos específicos: no charla, no escribe código, solo toma decisiones frecuentes, comprimiendo y simplificando todos los pasos tradicionales de un LLM en una sola pregunta de opción múltiple. La velocidad y el costo son de uno a dos órdenes de magnitud mejores. Es como el “Sistema 1” del famoso libro de Daniel Kahneman “Pensar rápido, pensar despacio”; los LLM tradicionales son el “Sistema 2”. Creo que si el T-800 usara los LLM actuales, jamás completaría ninguna tarea en la película; sería tan lento como una babosa (¿por qué ahora me acordé del rayo de Zootopia?). Aquí es donde entra Jev: la segunda pieza del rompecabezas del Terminator está lista. 3. La última pieza: Strata — ejecución local de modelos grandes. En 1984 había internet, pero era extremadamente lenta, y solo existía en militares y universidades. Además, no había nube con Skynet para conectarte. Tenías que llevar un modelo local dentro del T-800. Strata permite ejecutar el modelo Qwen3.8-Flash-Next con 125 mil millones de parámetros en una tarjeta gráfica de consumo con 12 GB de VRAM y 64 GB de RAM. La magia está en cuantizar primero los parámetros de 16 bits a 2–3 bits, reduciendo el tamaño varias veces. Luego, los 20% de expertos más utilizados se cargan en VRAM; todos los expertos se cargan en 64 GB de RAM; y finalmente hay una tabla de búsqueda grande (manual de consulta durante el entrenamiento) de 30 GB almacenada en SSD. Totalmente sin conexión, con privacidad de datos. Por supuesto, su capacidad se reduce por la compresión y leer documentos largos es lento… pero ¡una consola de juegos moderna puede ejecutar un modelo de miles de millones de parámetros! Eso es un salto del “nada” al “algo”. No sabemos los detalles exactos de la GPU, memoria y CPU del T-800, pero Strata te permite ejecutar modelos MOE más grandes en entornos con recursos limitados (actualmente solo soporta Qwen, pero la idea es aplicable a cualquier modelo MOE). Visto así, parece que nos acercamos cada vez más a Skynet y a la era del Terminator. @drfeifei @theworldlabs @typesafeai P.S. ¿Alguien compró un Roadster? Por favor, llévame a probarlo en 2028.

Este contenido es solo para fines informativos y educativos. Puede incluir opiniones de terceros, contenido patrocinado o material promocional por el que el creador puede recibir una compensación. Nada en este feed constituye asesoramiento de inversión ni una garantía de rentabilidad. Eres el único responsable de tus propias decisiones de inversión. Investiga siempre por tu cuenta y actúa con precaución antes de operar. No garantizamos la exactitud de la información de terceros y no nos hacemos responsables de las pérdidas que puedas sufrir. El rendimiento pasado no es indicativo de resultados futuros. Consulta nuestros Términos de la Comunidad y la Declaración de Riesgos para más detalles.

avatarPublica tu respuesta

Comentar