NVIDIA lanzó el jueves nuevos modelos de pesos de código abierto diseñados para respaldar agentes siempre activos y el cómputo en el borde.
Nemotron 3.5 Super VL es un modelo grande con 120 mil millones de parámetros, diseñado para agentes empresariales. NVIDIA indica que, aunque tiene menos parámetros que el modelo Nemotron 3 Ultra, su precisión en tareas de seguimiento de instrucciones y uso de herramientas puede ser comparable.
En el otro extremo, NVIDIA también lanzó dos modelos Bolt ligeros. Estos modelos están diseñados para ejecutarse localmente en nuevas PC de IA (equipadas con el chip NVIDIA RTX Spark) y en estaciones de trabajo que ejecutan DGX Spark. Estas PC dirigidas a consumidores, programadores y profesionales empresariales del conocimiento están llegando al mercado a través de socios como Microsoft y Dell.
Kari Briski, vicepresidenta de Modelos y Software Abiertos de NVIDIA, escribió en el blog que presenta estos modelos: “Cualquier organización que desee ejecutar agentes en la infraestructura de NVIDIA ahora puede encontrar un modelo abierto y optimizado para su nivel correspondiente, sin tener que elegir entre capacidad y desplegabilidad.”
NVIDIA afirma que, tras un entrenamiento posterior para tareas específicas de agentes, Super VL realiza estas tareas más rápido que los modelos competidores de Anthropic y OpenAI (Opus 5, GPT 6.1 Sol, Luna, Astra). Estas tareas incluyen inteligencia de documentos, contabilidad financiera, experimentos científicos, reclamaciones de seguros médicos y resistencia a ataques de seguridad.
Aunque este tipo de afirmaciones es común cada vez que las grandes empresas tecnológicas lanzan nuevos modelos, NVIDIA también enumera una serie de grandes empresas que supuestamente están utilizando Super VL, incluyendo Skydance, EY, Ramp, CrowdStrike, Perplexity y Salesforce.
Por supuesto, esta no es la primera vez que NVIDIA lanza modelos de pesos abiertos que compiten con laboratorios avanzados propietarios, empresas que son tanto sus clientes como sus inversiones. La serie de modelos Nemotron de NVIDIA abarca funciones como inteligencia artificial multimodal, inferencia, programación, matemáticas y automatización empresarial.
Sin embargo, estos laboratorios de IA propietarios de crecimiento rápido ahora también se están dirigiendo hacia otros proveedores de chips y sistemas de IA además de NVIDIA para satisfacer la demanda, como Trainium de AWS, Cerebras y chips desarrollados internamente.
Por lo tanto, NVIDIA está apostando fuertemente por la tendencia de que las empresas deseen ejecutar modelos de código abierto en sus propios centros de datos. Briski escribió: “A diferencia de los modelos avanzados cerrados, las organizaciones pueden realizar un post-entrenamiento de Super VL con sus propios datos, implementarlo en su propia infraestructura y poseer los resultados que han construido”.
Pero con el lanzamiento de estos modelos de PC más pequeños y ejecutables localmente, NVIDIA también está intentando impulsar la emergente tendencia de asistentes de IA para consumidores. Aunque parece que todos los días surgen nuevas empresas emergentes y grandes empresas tecnológicas con nuevos asistentes de IA, los consumidores preocupados por la privacidad pueden no estar dispuestos a permitir que estos agentes se integren profundamente en sus vidas y accedan a información sobre el hogar, la salud, las finanzas, entre otros.
Por lo tanto, NVIDIA busca crear un nuevo mercado vendiendo PCs impulsadas por sus chips que puedan ejecutar modelos y agentes localmente. Briski escribió que los usuarios de PC "pueden delegar proyectos diarios... sin necesidad de enviar estas cargas de trabajo a la nube".
De los dos modelos Bolt, el Nemotron 3.5 Bolt 74B-A9B 24GB es un modelo de 74 mil millones de parámetros diseñado específicamente para tareas de agentes locales, con el objetivo de equilibrar velocidad y capacidad de inferencia para manejar razonamiento en múltiples pasos, llamadas a herramientas y navegación web. El modelo más pequeño, Bolt E4B, está orientado a agentes conversacionales.
NVIDIA indica que Super VL y Bolt 74B-A9B ya están disponibles, y Bolt E4B se lanzará a finales de este mes.