NVIDIA lançou novos modelos de peso abertos na quinta-feira, destinados a suportar agentes sempre ativos e computação de borda.
Nemotron 3.5 Super VL é um grande modelo com 120 bilhões de parâmetros, voltado para agentes empresariais. A NVIDIA afirma que, embora tenha menos parâmetros que o modelo Nemotron 3 Ultra, sua precisão em tarefas de seguimento de instruções e uso de ferramentas pode ser semelhante.
Do outro lado, a NVIDIA também lançou dois modelos leves Bolt. Esses modelos foram projetados para serem executados localmente em novos PCs de IA (com o chip NVIDIA RTX Spark) e em estações de trabalho que executam o DGX Spark. Esses PCs voltados para consumidores, programadores e profissionais de conhecimento empresarial estão sendo lançados no mercado por meio de parceiros como a Microsoft e a Dell.
Kari Briski, vice-presidenta de Modelos e Software da NVIDIA, escreveu no blog de apresentação desses modelos: “Qualquer organização que deseje executar agentes na infraestrutura da NVIDIA agora pode encontrar um modelo aberto e otimizado correspondente ao seu nível, sem precisar fazer escolhas entre capacidade e deployabilidade.”
A NVIDIA afirma que, após o pós-treinamento para tarefas específicas de agente, o Super VL executa tarefas mais rapidamente do que os modelos concorrentes da Anthropic e da OpenAI (Opus 5, GPT 6.1 Sol, Luna, Astra). Essas tarefas incluem inteligência de documentos, contabilidade financeira, experimentos científicos, sinistros de seguro de saúde e resiliência a ataques de segurança.
Embora esse tipo de afirmação seja comum sempre que grandes empresas de tecnologia lançam novos modelos, a NVIDIA também listou um conjunto de grandes empresas que supostamente estão usando o Super VL, incluindo Skydance, EY, Ramp, CrowdStrike, Perplexity e Salesforce.
Claro, esta não é a primeira vez que a NVIDIA lança modelos de peso abertos capazes de competir com laboratórios avançados proprietários — empresas que são ao mesmo tempo seus clientes e investidores. A série de modelos Nemotron da NVIDIA abrange funcionalidades como inteligência artificial multimodal, raciocínio, programação, matemática e automação empresarial.
No entanto, esses laboratórios de IA proprietários de crescimento rápido agora também estão se voltando para outros fornecedores de chips e sistemas de IA além da NVIDIA para atender à demanda, como o Trainium da AWS, a Cerebras e chips desenvolvidos internamente.
Portanto, a NVIDIA está apostando fortemente na tendência de que empresas desejem executar modelos abertos em seus próprios data centers. Briski escreveu: “Diferentemente dos modelos avançados fechados, as organizações podem fazer o pós-treinamento do Super VL com seus próprios dados, implantá-lo em sua própria infraestrutura e possuir os resultados que construíram.”
Mas, com o lançamento desses modelos PC menores e que podem ser executados localmente, a NVIDIA também está tentando impulsionar a tendência emergente de assistentes de IA para consumidores. Embora pareça que todas as dias novas startups e grandes empresas de tecnologia lancem novos assistentes de IA, consumidores preocupados com privacidade podem não estar dispostos a permitir que esses agentes se integrem profundamente à sua vida e acessem informações sobre família, saúde, finanças etc.
Portanto, a NVIDIA busca criar um novo mercado vendendo PCs impulsionados por seus chips, capazes de executar modelos e agentes localmente. Briski escreveu que os usuários de PC “podem delegar projetos cotidianos... sem precisar enviar essas cargas de trabalho para a nuvem”.
Entre os dois modelos Bolt, o Nemotron 3.5 Bolt 74B-A9B 24GB é um modelo de 74 bilhões de parâmetros projetado para tarefas de agente local, visando equilibrar velocidade e capacidade de inferência para lidar com raciocínio em múltiplos passos, chamadas de ferramentas e navegação na web. O modelo menor Bolt E4B é voltado para agentes conversacionais.
NVIDIA states that Super VL and Bolt 74B-A9B are now available, and Bolt E4B will be launched later this month.