NVIDIA 於週四發布了新的開源權重模型,旨在支援始終在線的代理和邊緣計算。
Nemotron 3.5 Super VL 是一款擁有 1200 億參數的大模型,專為企業用代理設計。英偉達表示,儘管其參數少於 Nemotron 3 Ultra 模型,但在指令遵循和工具使用任務上的準確度可相近。
在另一端,英偉達還發布了兩款輕量級 Bolt 模型。這些模型旨在於新的 AI PC(搭載英偉達 RTX Spark 芯片)以及運行 DGX Spark 的工作站上本地運行。這類面向消費者、程式設計師和企業知識工作者的 PC,正透過微軟和戴爾等合作夥伴進入市場。
英偉達開放模型與軟體副總裁 Kari Briski 在介紹這些模型的部落格文章中寫道:「任何希望在英偉達基礎設施上運行代理的組織,現在都能為其對應等級找到一個開放且優化的模型,而無需在能力和可部署性之間做選擇。」
英偉達表示,在針對特定代理任務進行後訓練後,Super VL 完成任務的速度快於 Anthropic 和 OpenAI 的競爭模型(Opus 5、GPT 6.1 Sol、Luna、Astra)。這些任務包括文件智能、財務會計、科學實驗、醫療保險理賠以及安全攻擊韌性。
雖然每當大型科技公司發布新模型時,這類說法都很常見,但英偉達也列出了一批據稱正在使用 Super VL 的大型公司,包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce。
當然,這並不是英偉達首次發布可與專有前沿實驗室競爭的開源權重模型——這些公司既是它的客戶,也是它的投資對象。英偉達的 Nemotron 系列模型涵蓋多模態人工智慧、推理、編程、數學和企業自動化等功能。
不過,這些增長迅速的專有AI實驗室如今也開始轉向英偉達之外的其他晶片和AI系統廠商以滿足需求,例如 AWS 的 Trainium、Cerebras,以及自研晶片。
因此,英偉達正大力押注企業希望在自有資料中心運行開源模型這一趨勢。Briski 寫道:「與封閉的前沿模型不同,組織可以用自己的數據對 Super VL 進行後訓練,將其部署在自己的基礎設施上,並擁有自己構建的成果。」
但隨著這些更小、可本地運行的 PC 模型發布,英偉達也在試圖推動尚處萌芽階段的消費級 AI 助手趨勢。儘管看起來每天都有初創公司和大型科技公司推出新的 AI 助手,但對隱私感到擔憂的消費者,未必願意讓這類代理深入介入自己的生活,並接觸家庭、健康、財務等資訊。
因此,英偉達希望透過打造可在本地運行模型和代理的機器,為自己開闢一個新市場,銷售由其晶片驅動的 PC。Briski 寫道,PC 用戶「可以委派日常項目……而無需把這些工作負載發送到雲端」。
在兩款 Bolt 模型中,Nemotron 3.5 Bolt 74B-A9B 24GB 是一款 740 億參數模型,專為本地代理任務設計,旨在平衡速度與推理能力,以處理多步推理、工具調用和網頁瀏覽。更小的 Bolt E4B 則面向對話型代理。
NVIDIA 表示,Super VL 和 Bolt 74B-A9B 現已可用,Bolt E4B 將於本月底推出。
