NVIDIA mengeluarkan model berat sumber terbuka baru pada hari Kamis, yang bertujuan untuk menyokong agen sentiasa aktif dan pengiraan tepi.
Nemotron 3.5 Super VL ialah model besar dengan 120 bilion parameter, dirancang khusus untuk agen penggunaan perniagaan. NVIDIA menyatakan bahawa walaupun parameternya kurang daripada model Nemotron 3 Ultra, ketepatannya dalam tugas-tugas mengikuti arahan dan penggunaan alat boleh setara.
Di sisi lain, NVIDIA juga melancarkan dua model Bolt ringan. Model-model ini dirancang untuk dijalankan secara tempatan pada PC AI baharu (dengan cip NVIDIA RTX Spark) dan stesen kerja yang menjalankan DGX Spark. PC yang ditujukan kepada pengguna pengguna, jurucakap, dan pekerja pengetahuan perniagaan ini kini sedang memasuki pasaran melalui rakan kongsi seperti Microsoft dan Dell.
Kari Briski, Naib Presiden Model dan Perisian NVIDIA, menulis dalam blog yang memperkenalkan model-model ini: "Setiap organisasi yang ingin menjalankan agen di atas infrastruktur NVIDIA kini boleh menemui model terbuka dan teroptimum yang sesuai dengan peringkat mereka, tanpa perlu membuat pilihan antara keupayaan dan ketersediaan pelaksanaan."
NVIDIA menyatakan bahawa selepas latihan lanjutan untuk tugas agen tertentu, Super VL menyelesaikan tugas-tugas tersebut lebih pantas berbanding model pesaing dari Anthropic dan OpenAI (Opus 5, GPT 6.1 Sol, Luna, Astra). Tugas-tugas ini termasuk kecerdasan dokumen, perakaunan kewangan, eksperimen saintifik, tuntutan perubatan, dan ketahanan serangan keselamatan.
Walaupun pernyataan semacam ini biasa berlaku setiap kali syarikat teknologi besar mengeluarkan model baharu, NVIDIA juga menyenaraikan sekumpulan syarikat besar yang dikatakan sedang menggunakan Super VL, termasuk Skydance, EY, Ramp, Crowdstrike, Perplexity, dan Salesforce.
Tentu, ini bukan pertama kalinya NVIDIA memperkenalkan model berat open-source yang mampu bersaing dengan laboratorium canggih milik sendiri—perusahaan-perusahaan ini merupakan pelanggan sekaligus mitra investasi NVIDIA. Model serienemotron NVIDIA mencakup fungsi-fungsi seperti kecerdasan buatan multimodal, inferensi, pemrograman, matematika, dan otomasi perusahaan.
Namun, makmal AI eksklusif yang tumbuh pesat ini kini juga beralih kepada pembuat cip dan sistem AI selain NVIDIA untuk memenuhi permintaan, seperti Trainium AWS, Cerebras, serta cip buatan sendiri.
Oleh itu, NVIDIA sedang membuat pertaruhan besar terhadap tren di mana organisasi ingin menjalankan model sumber terbuka di pusat data mereka sendiri. Briski menulis: “Berbeza dengan model terkini tertutup, organisasi boleh melakukan pasca-latihan Super VL dengan data mereka sendiri, menghuraikannya di infrastruktur mereka sendiri, dan memiliki kepemilikan atas hasil yang mereka bina.”
Namun, dengan pelancaran model PC yang lebih kecil dan boleh dijalankan secara tempatan ini, NVIDIA juga cuba mendorong trend pembantu AI peribadi yang masih dalam peringkat permulaan. Walaupun kelihatan bahawa setiap hari ada syarikat mula-mula dan syarikat teknologi besar yang melancarkan pembantu AI baharu, pengguna yang bimbang tentang privasi mungkin tidak bersedia membenarkan agen-agen ini terlibat secara mendalam dalam kehidupan mereka dan mengakses maklumat keluarga, kesihatan, dan kewangan.
Oleh itu, NVIDIA berharap untuk menciptakan pasaran baharu dengan menghasilkan mesin yang boleh menjalankan model dan agen secara tempatan, serta menjual PC yang didorong oleh cip-cipnya. Briski menulis bahawa pengguna PC "boleh menugaskan projek harian... tanpa perlu menghantar beban kerja tersebut ke awan."
Dalam dua model Bolt, Nemotron 3.5 Bolt 74B-A9B 24GB adalah model dengan 74 bilion parameter yang direka khas untuk tugas agen tempatan, bertujuan untuk menyeimbangkan kelajuan dan kemampuan inferens untuk menangani inferens berbilang langkah, pemanggilan alat, dan pelayaran web. Bolt E4B yang lebih kecil ditujukan untuk agen perbualan.
NVIDIA menyatakan bahawa Super VL dan Bolt 74B-A9B kini tersedia, dan Bolt E4B akan dilancarkan pada akhir bulan ini.