NVIDIA merilis model bobot open-source baru pada hari Kamis, yang bertujuan untuk mendukung agen selalu aktif dan komputasi tepi.
Nemotron 3.5 Super VL adalah model besar dengan 120 miliar parameter, dirancang untuk agen penggunaan perusahaan. NVIDIA menyatakan bahwa meskipun parameternya lebih sedikit daripada model Nemotron 3 Ultra, akurasi dalam tugas pemenuhan perintah dan penggunaan alat dapat setara.
Di sisi lain, NVIDIA juga meluncurkan dua model Bolt ringan. Model-model ini dirancang untuk dijalankan secara lokal di PC AI baru (dengan chip NVIDIA RTX Spark) dan workstation yang menjalankan DGX Spark. PC yang ditujukan untuk konsumen, programmer, dan tenaga kerja pengetahuan perusahaan ini kini mulai memasuki pasar melalui mitra-mitra seperti Microsoft dan Dell.
Kari Briski, Wakil Presiden Model dan Perangkat Lunak NVIDIA, menulis dalam artikel blog yang memperkenalkan model-model ini: "Setiap organisasi yang ingin menjalankan agen di infrastruktur NVIDIA sekarang dapat menemukan model terbuka dan dioptimalkan yang sesuai dengan tingkatannya, tanpa harus membuat pilihan antara kemampuan dan ketersediaan untuk diterapkan."
NVIDIA menyatakan bahwa setelah pelatihan lanjutan untuk tugas agen tertentu, Super VL menyelesaikan tugas lebih cepat daripada model pesaing dari Anthropic dan OpenAI (Opus 5, GPT 6.1 Sol, Luna, Astra). Tugas-tugas ini mencakup kecerdasan dokumen, akuntansi keuangan, eksperimen ilmiah, klaim asuransi kesehatan, dan ketahanan terhadap serangan keamanan.
Meskipun pernyataan semacam ini sering muncul setiap kali perusahaan teknologi besar meluncurkan model baru, NVIDIA juga mencantumkan sejumlah perusahaan besar yang diklaim sedang menggunakan Super VL, termasuk Skydance, EY, Ramp, Crowdstrike, Perplexity, dan Salesforce.
Tentu, ini bukan pertama kalinya NVIDIA merilis model bobot open-source yang dapat bersaing dengan laboratorium canggih milik sendiri—perusahaan-perusahaan ini sekaligus menjadi pelanggan dan mitra investasi mereka. Model seri Nemotron dari NVIDIA mencakup berbagai fungsi seperti kecerdasan buatan multimodal, inferensi, pemrograman, matematika, dan otomasi perusahaan.
Namun, laboratorium AI propietaris yang tumbuh pesat ini kini juga beralih ke pemasok chip dan sistem AI lain selain NVIDIA untuk memenuhi kebutuhan, seperti Trainium dari AWS, Cerebras, serta chip buatan sendiri.
Oleh karena itu, NVIDIA sedang sangat mempertaruhkan tren di mana perusahaan ingin menjalankan model open-source di pusat data mereka sendiri. Briski menulis: “Berbeda dengan model canggih tertutup, organisasi dapat melakukan post-training Super VL dengan data mereka sendiri, mengimplementasikannya di infrastruktur mereka sendiri, dan memiliki kepemilikan atas hasil yang mereka bangun.”
Namun, dengan dirilisnya model PC yang lebih kecil dan dapat dijalankan secara lokal, NVIDIA juga berusaha mendorong tren asisten AI konsumen yang masih dalam tahap awal. Meskipun tampaknya setiap hari ada perusahaan rintisan dan perusahaan teknologi besar yang meluncurkan asisten AI baru, konsumen yang khawatir akan privasi belum tentu bersedia membiarkan agen semacam itu terlibat secara mendalam dalam kehidupan mereka dan mengakses informasi pribadi seperti rumah, kesehatan, dan keuangan.
Oleh karena itu, NVIDIA berharap dapat menciptakan pasar baru dengan membangun mesin yang dapat menjalankan model dan agen secara lokal, serta menjual PC yang didukung oleh chip-nya. Briski menulis bahwa pengguna PC "dapat menugaskan proyek sehari-hari... tanpa harus mengirimkan beban kerja tersebut ke cloud."
Dari dua model Bolt, Nemotron 3.5 Bolt 74B-A9B 24GB adalah model dengan 74 miliar parameter yang dirancang khusus untuk tugas agen lokal, bertujuan untuk menyeimbangkan kecepatan dan kemampuan inferensi guna menangani penalaran multi-langkah, pemanggilan alat, dan penelusuran web. Bolt E4B yang lebih kecil ditujukan untuk agen percakapan.
NVIDIA menyatakan bahwa Super VL dan Bolt 74B-A9B kini tersedia, dan Bolt E4B akan diluncurkan pada akhir bulan ini.