NVIDIA, Nemotron 3.5 Lightning'i Ajant Araç Çalıştırma için Açık Kaynak Hale Getiriyor

NVIDIA, uzun süreli çalışan Agent'lar için özel olarak geliştirilen açık kaynaklı Nemotron 3.5 Lightning modelini duyurdu. Modelin toplam parametre sayısı 30 milyar, her token için yalnızca 3 milyar aktifleniyor ve araç çağrısı, sonuç kontrolü ve alt Agent yönetimi gibi yüksek frekanslı görevleri üstleniyor. NVIDIA'nın yaklaşımı, Agent'ların görevlerini daha da net bir şekilde bölmektir. Karmaşık planlama, Nemotron 3 Ultra gibi büyük modellere bırakılırken, tekrarlayan işlemler Lightning'e devrediliyor. Resmi açıklamaya göre, çıktı hızı aynı sınıftaki modellere kıyasla en fazla dört kat daha yüksek. PinchBench testinde, Lightning'in doğruluk oranı %86 seviyesinde olup, benzer doğruluk seviyelerindeyken 10.000 görevi Qwen3.6 35B'den %30 daha hızlı tamamlıyor. Model MoE mimarisini kullanıyor ve Agent Harness için özel olarak eğitildi; çok token tahmini ve tahmini dekodlama özellikleri eklenmiştir. NVIDIA, BF16 ve NVFP4 ağırlıklarını sunuyor ve bu ağırlıklar RTX 5090, DGX Spark gibi yerel cihazlarda çalıştırılabiliyor; ayrıca llama.cpp, Ollama, LM Studio ve Unsloth ile de destekleniyor. Modelin özelleştirilebilirliği de vurgulanıyor. NVIDIA, ağırlıkları, kısmen eğitim verilerini ve eğitim formüllerini açıklayarak, şirketlerin kodlama, güvenlik, hukuk gibi görevler için ek eğitim yapmasına olanak tanıyor. Resmi örneklerde, Lightning'in ek eğitim sonrası birçok profesyonel görevde belirgin performans artışı sağladığı gösteriliyor.