Ibinabahagi ng NVIDIA ang 550B Nemotron 3 Ultra Model na may Mamba-Transformer Hybrid MoE Architecture

Ayon sa pagmamasid ng Beating, binuksan ng NVIDIA ang kanilang pangunahing malaking modelo sa wika na may 550 bilyong parameter at 55 bilyong aktibasyon, ang Nemotron 3 Ultra, noong Hunyo 4 bilang open-source, na dinisenyo para sa mga komplikadong gawain tulad ng pagpaplano, pag-iisip, at pagtawag sa mga kasangkapan. Sa platform ng pagsusuri ng third-party na Artificial Analysis, nakakuha ang Nemotron 3 Ultra ng marka na 48, gawing pinakamalakas na open-source model sa Estados Unidos, na lamang pinalalampasan ng Kimi K2.6 na may marka na 54 mula sa Moonshot. Sa teknikal na arkitektura, gumagamit ang modelo ng Mamba-Transformer Hybrid Experts (MoE)架构, na gumagamit ng alternatibong Mamba-2 state space model layers at Transformer self-attention layers upang iwasan ang memory bottleneck na quadratic growth ng KV cache sa sobrang habang konteksto, at nagbibigay ng suporta sa 1 milyong token context window sa napakababang memorya overhead. Kumpara sa parehong laki na dense model, nagpapabuti ang hybrid architecture ng 5 beses ang throughput sa agent tasks at bumabawas ng 30% sa gastos sa inference. Sa ekosistema, inilabas din ng NVIDIA ang Agent Toolkit na naglalaman ng NemoClaw orchestration blueprint at OpenShell runtime. Ang open-source na nilalaman ay kasama nang direkta ang model weights, dataset, at training recipes. Ang modelo ay nasa Hugging Face, NVIDIA NIM, at OpenRouter, at sinasabing nagpapalakas na ang mga serbisyo sa enterprise AI search tulad ng Glean bilang alternatibo sa mga commercial closed-source large models.