NVIDIA, sürekli açık proxy'ler ve kenar hesaplama için destek sağlamak amacıyla Perşembe günü yeni açık kaynak ağırlık modellerini yayınladı.
Nemotron 3.5 Super VL, 120 milyar parametreye sahip bir büyük modeldir ve kurumsal kullanım için tasarlanmıştır. NVIDIA, bu modelin Nemotron 3 Ultra modelinden daha az parametreye sahip olmasına rağmen, komut takibi ve araç kullanımı görevlerindeki doğruluk seviyesinin benzer olabileceğini belirtti.
Diğer taraftan, NVIDIA, yeni AI PC'lerde (NVIDIA RTX Spark çipini kullanan) ve DGX Spark çalıştıran istasyonlarda yerel olarak çalışmak üzere tasarlanmış iki hafif Bolt modeli daha duyurdu. Bu tür PC'ler, tüketici, programcı ve kurumsal bilgi çalışanları için Microsoft ve Dell gibi ortaklar aracılığıyla piyasaya sürülmektedir.
NVIDIA'nın Açık Modeller ve Yazılım Başkan Yardımcısı Kari Briski, bu modelleri tanıtan blog yazısında, "NVIDIA altyapısı üzerinde bir ajant çalıştırmak isteyen herhangi bir organizasyon, artık yetenek ve dağıtılabilirlik arasında seçim yapmadan kendi seviyesine uygun bir açık, optimize edilmiş modele sahip olabilecek." dedi.
NVIDIA, belirli ajans görevleri için son eğitim sonrası Super VL'nin, Anthropic ve OpenAI'nin rekabet modelleri (Opus 5, GPT 6.1 Sol, Luna, Astra)den daha hızlı görevleri tamamladığını açıkladı. Bu görevler arasında belge akıllılığı, mali muhasebe, bilimsel deneyler, sağlık sigortası tazminatları ve güvenlik saldırı direnci yer alıyor.
Büyük teknoloji şirketleri yeni modelleri açıkladığında bu tür iddialar sıkça görülse de, NVIDIA, Skydance, EY, Ramp, Crowdstrike, Perplexity ve Salesforce dahil olmak üzere Super VL'yi kullandığı iddia edilen bir dizi büyük şirketi de listeliyor.
Elbette, bu NVIDIA'nın özel öncü laboratuvarlarla rekabet edebilecek açık kaynak ağırlık modellerini ilk kez yayınlaması değil—bu şirketler hem müşterileri hem de yatırımcıları. NVIDIA'nın Nemotron serisi modelleri, çoklu modlu yapay zeka, çıkarım, programlama, matematik ve kurumsal otomasyon gibi işlevleri kapsar.
Ancak bu hızlı büyüyen özel AI laboratuvarları, ihtiyaçlarını karşılamak için artık NVIDIA'nın dışında AWS'in Trainium, Cerebras ve kendi geliştirdiği çiplerine de yöneliyor.
Bu nedenle NVIDIA, şirketlerin kendi veri merkezlerinde açık kaynak modelleri çalıştırmak istemesi yönündeki eğilime büyük bir yatırım yapıyor. Briski, “Kapalı öncü modellerden farklı olarak, organizasyonlar Super VL’yi kendi verileriyle sonrası eğitim yapabilir, kendi altyapılarına dağıtabilir ve kendi oluşturdukları sonuçlara sahip olabilir.”
Ancak bu daha küçük ve yerel olarak çalıştırılabilen PC modellerinin piyasaya sürülmesiyle NVIDIA, hâlâ yeni nesil tüketici AI asistanı trendini desteklemeye çalışıyor. Her gün yeni AI asistanları tanıtan startup'lar ve büyük teknoloji şirketleri olsa da, gizlilik konusunda endişeli tüketiciler, bu tür asistanların yaşamalarına derinlemesine dahil olmalarını ve aile, sağlık, finansal bilgilerine erişmelerini istemeyebilir.
Bu nedenle, NVIDIA, kendi çipleriyle çalışan PC'leri satmak için yerelde model ve ajanları çalıştırmayı mümkün kılan makineler oluşturmayı hedefliyor. Briski, PC kullanıcılarının “bu iş yüklerini buluta göndermeden günlük projeleri atayabileceğini” yazıyor.
İki Bolt modeli arasında, Nemotron 3.5 Bolt 74B-A9B 24GB, çok adımlı muhakeme, araç çağrısı ve web tarayıcısı görevlerini işlemek için hız ile çıkarım yeteneği dengesini hedefleyen 74 milyar parametreli bir modeldir. Daha küçük olan Bolt E4B ise diyalog tabanlı ajantlar için tasarlanmıştır.
NVIDIA, Super VL ve Bolt 74B-A9B'nin artık kullanıma hazır olduğunu açıkladı; Bolt E4B ise bu ayın sonlarında piyasaya sürülecek.