NVIDIA выпустила новые открытые весовые модели в четверг, направленные на поддержку постоянно активных агентов и вычислений на краю.
Nemotron 3.5 Super VL — это крупная модель с 120 миллиардами параметров, предназначенная для использования в качестве агента предприятиями. NVIDIA заявляет, что, несмотря на меньшее количество параметров по сравнению с моделью Nemotron 3 Ultra, её точность в задачах выполнения инструкций и использования инструментов может быть сопоставима.
С другой стороны, NVIDIA также выпустила две легкие модели Bolt. Эти модели предназначены для локального запуска на новых AI PC (с чипом NVIDIA RTX Spark) и рабочих станциях с DGX Spark. Такие ПК для потребителей, программистов и корпоративных сотрудников, работающих с информацией, поступают на рынок через партнеров, таких как Microsoft и Dell.
В блоге, посвященном представлению этих моделей, вице-президент по открытым моделям и программному обеспечению NVIDIA Кари Бриски написала: «Любая организация, желающая запускать агенты на инфраструктуре NVIDIA, теперь может найти открытую, оптимизированную модель, соответствующую своему уровню, не делая компромиссов между возможностями и возможностью развертывания».
NVIDIA заявляет, что после дообучения для специфических агентских задач Super VL выполняет эти задачи быстрее, чем конкурентные модели Anthropic и OpenAI (Opus 5, GPT 6.1 Sol, Luna, Astra). Эти задачи включают документальный интеллект, финансовую бухгалтерию, научные эксперименты, страховые претензии по медицинскому страхованию и устойчивость к кибератакам.
Хотя такие утверждения часто звучат, когда крупные технологические компании выпускают новые модели, NVIDIA также перечислила ряд крупных компаний, которые, как утверждается, используют Super VL, включая Skydance, EY, Ramp, CrowdStrike, Perplexity и Salesforce.
Конечно, это не первый раз, когда NVIDIA выпускает открытые весовые модели, способные конкурировать с проприетарными передовыми лабораториями — компаниями, которые являются как ее клиентами, так и инвестированными объектами. Модели серии Nemotron от NVIDIA охватывают такие функции, как мультимодальное ИИ, вывод, программирование, математика и корпоративная автоматизация.
Однако эти быстро растущие проприетарные лаборатории ИИ теперь также обращаются к другим производителям чипов и систем ИИ, помимо NVIDIA, чтобы удовлетворить спрос, например, к Trainium от AWS, Cerebras и собственным чипам.
Таким образом, NVIDIA активно делает ставку на тенденцию, согласно которой компании хотят запускать открытые модели в своих собственных центрах обработки данных. Бриски пишет: «В отличие от закрытых передовых моделей, организации могут дообучать Super VL на своих собственных данных, развертывать их на своей инфраструктуре и владеть результатами, созданными ими самостоятельно».
Но с выпуском этих более мелких, локально запускаемых ПК-моделей NVIDIA также пытается продвигать зарождающуюся тенденцию потребительских AI-ассистентов. Несмотря на то, что каждый день появляются новые AI-ассистенты от стартапов и крупных технологических компаний, потребители, обеспокоенные конфиденциальностью, могут не желать, чтобы такие агенты глубоко вмешивались в их жизнь и имели доступ к информации о семье, здоровье, финансах и т.д.
Таким образом, NVIDIA стремится создать новый рынок, продавая ПК на базе своих чипов, способных запускать модели и агенты локально. Бриски пишет, что пользователи ПК «могут поручать повседневные задачи... не отправляя эти рабочие нагрузки в облако».
Из двух моделей Bolt, Nemotron 3.5 Bolt 74B-A9B 24GB — это модель с 74 миллиардами параметров, разработанная специально для локальных агентских задач, с целью сбалансировать скорость и способность к выводу для обработки многошаговых рассуждений, вызова инструментов и просмотра веб-страниц. Меньшая модель Bolt E4B ориентирована на диалоговые агенты.
NVIDIA сообщила, что Super VL и Bolt 74B-A9B уже доступны, а Bolt E4B будет запущен в конце этого месяца.