NVIDIA в четверг випустила нові відкриті вагові моделі, призначені для підтримки завжди активних агентів та крайових обчислень.
Nemotron 3.5 Super VL — це велика модель з 120 мільярдами параметрів, призначена для агентів, що використовуються підприємствами. NVIDIA зазначає, що, хоча кількість параметрів менша, ніж у моделі Nemotron 3 Ultra, точність у завданнях виконання інструкцій та використання інструментів може бути схожою.
На іншому кінці, NVIDIA також представила дві легкі моделі Bolt. Ці моделі призначені для локального запуску на нових AI PC (з чипами NVIDIA RTX Spark) та робочих станціях з DGX Spark. Такі ПК для споживачів, розробників і корпоративних фахівців з’являються на ринку через партнерів, таких як Microsoft і Dell.
Карі Бріскі, віце-президент з відкритих моделей і програмного забезпечення NVIDIA, написала у блозі, присвяченому цим моделям: «Будь-яка організація, яка бажає запускати агенти на інфраструктурі NVIDIA, тепер може знайти відкриту, оптимізовану модель відповідного рівня, не роблячи вибору між потужністю та можливістю розгортання».
NVIDIA стверджує, що після доналагодження для конкретних агентських завдань Super VL виконує їх швидше, ніж конкурентні моделі Anthropic та OpenAI (Opus 5, GPT 6.1 Sol, Luna, Astra). Ці завдання включають інтелект документів, фінансовий облік, наукові експерименти, клейміння медичного страхування та стійкість до безпекових атак.
Хоча такі твердження є поширеними, коли великі технологічні компанії випускають нові моделі, NVIDIA також перелічила ряд великих компаній, які, як стверджується, використовують Super VL, зокрема Skydance, EY, Ramp, CrowdStrike, Perplexity та Salesforce.
Звичайно, це не перший раз, коли NVIDIA випускає відкриті вагові моделі, які можуть конкурувати з власними передовими лабораторіями — ці компанії є одночасно її клієнтами та інвесторами. Моделі серії Nemotron від NVIDIA охоплюють такі функції, як багатомодальний штучний інтелект, висновування, програмування, математика та підприємницька автоматизація.
Проте ці швидко розростаються власні AI-лабораторії зараз також звертаються до інших виробників чіпів та AI-систем, крім NVIDIA, щоб задовольнити попит, наприклад, Trainium від AWS, Cerebras та власні чіпи.
Тому NVIDIA активно робить ставку на тенденцію, коли підприємства хочуть запускати відкриті моделі у власних центрах обробки даних. Бріскі пише: «На відміну від закритих передових моделей, організації можуть проводити до навчання Super VL на власних даних, розгортати їх на власній інфраструктурі та володіти результатами, створеними ними самими.»
Але з випуском цих менших, локально виконуваних ПК-моделей NVIDIA також намагається розвивати ще зародкову тенденцію споживчих AI-асистентів. Хоча щодня з’являються нові AI-асистенти від стартапів та великих технологічних компаній, споживачі, які турбуються про конфіденційність, можуть не бажати, щоб такі агенти глибоко втручалися у своє життя та мали доступ до інформації про сім’ю, здоров’я, фінанси тощо.
Тому NVIDIA прагне створити новий ринок, продаючи ПК на базі своїх чіпів, які можуть запускати моделі та агенти локально. Бріскі пише, що користувачі ПК «можуть делегувати повсякденні завдання… не відправляючи ці завантаження до хмари».
У двох моделях Bolt, Nemotron 3.5 Bolt 74B-A9B 24GB — це модель з 74 мільярдами параметрів, розроблена для локальних агентських завдань, щоб забезпечити баланс між швидкістю та здатністю до виведення для обробки багатокрокових міркувань, викликів інструментів та перегляду веб-сторінок. Менша модель Bolt E4B призначена для діалогових агентів.
NVIDIA повідомила, що Super VL та Bolt 74B-A9B вже доступні, а Bolt E4B буде запущений наприкінці цього місяця.