NVIDIA, Mamba-Transformer Hibrit MoE Mimarisini Kullanarak 550B Nemotron 3 Ultra Modelini Açık Kaynak Hale Getiriyor

Beating İzleme'ye göre, NVIDIA, 4 Haziran'da 550 milyar parametreli ve 55 milyar aktifli üst düzey büyük dil modeli Nemotron 3 Ultra'yı resmen açık kaynak hale getirdi. Bu model, karmaşık planlama, akıl yürütme ve araç çağırma gibi uzun menzilli ajan görevleri için optimize edilmiştir. Üçüncü taraf benchmark platformu Artificial Analysis'ın akıllılık indeksinde, Nemotron 3 Ultra 48 puan alarak, Ay'ın Karanlık Yüzü'nün 54 puan alan Kimi K2.6'sından sonra şu ana kadar ABD'de en güçlü açık kaynak ağırlıklı modeldir. Teknik yapı olarak, model Mamba-Transformer karışık uzman (MoE) mimarisini kullanır; Mamba-2 durum uzayı model katmanları ile Transformer dikkat mekanizması katmanları arasında geçiş yaparak, çok uzun bağlam altında KV önbelleğinin karesel büyümesine bağlı bellek darboğazını aşar ve çok düşük bellek maliyetiyle 1 milyon token'lık bağlam penceresini destekler. Aynı boyuttaki yoğun modellere kıyasla, karışık mimari ajan görevlerinde 5 kat daha yüksek verimlilik sağlar ve %30 daha düşük çıkarım maliyeti sunar. Ekosistem desteği açısından, NVIDIA aynı zamanda NemoClaw düzenleyici şablonu ve OpenShell çalışma zamanını içeren Ajan Araç Seti (Agent Toolkit) yayınladı. Açık kaynak içeriği, model ağırlıkları, veri setleri ve eğitim formüllerini doğrudan içerir. Model, Hugging Face, NVIDIA NIM ve OpenRouter'da mevcuttur; Glean gibi kurumsal AI arama hizmet sağlayıcıları, ticari kapalı kaynak büyük modellerin alternatifi olarak entegrasyonunu açıklamıştır.