NVIDIA libera código aberto do modelo Nemotron 3 Ultra de 550B com arquitetura híbrida Mamba-Transformer MoE

De acordo com o monitoramento da Beating, a NVIDIA lançou oficialmente em 4 de junho o modelo de linguagem grande de ponta Nemotron 3 Ultra, com 550 bilhões de parâmetros e 55 bilhões de ativações, otimizado para tarefas de agentes de longo prazo, como planejamento complexo, raciocínio e chamada de ferramentas. Na plataforma de benchmark terceirizada Artificial Analysis, o Nemotron 3 Ultra obteve uma pontuação de 48, sendo o modelo de peso aberto mais poderoso atualmente nos Estados Unidos, atrás apenas do Kimi K2.6 da Luna Dark, que obteve 54 pontos. Na arquitetura técnica, o modelo utiliza uma arquitetura Mamba-Transformer de especialistas mistos (MoE), alternando camadas de modelo de espaço de estado Mamba-2 com camadas de autoatenção Transformer, contornando o gargalo de memória causado pelo crescimento quadrático do cache KV em contextos extremamente longos, suportando uma janela de contexto de 1 milhão de tokens com custo de memória extremamente baixo. Em comparação com modelos densos de mesma escala, a arquitetura mista aumentou o throughput em 5 vezes e reduziu os custos de inferência em 30% para tarefas de agentes. No ecossistema, a NVIDIA lançou simultaneamente o pacote de ferramentas para agentes Agent Toolkit, incluindo o blueprint NemoClaw e o runtime OpenShell. O conteúdo aberto inclui diretamente os pesos do modelo, conjuntos de dados e receitas de treinamento. O modelo já está disponível no Hugging Face, NVIDIA NIM e OpenRouter, e provedores empresariais de busca por IA, como a Glean, já anunciaram sua integração, servindo como alternativa a modelos de linguagem grandes comerciais fechados.