NVIDIA 推出適用於企業和個人電腦的全新開源 AI 模型

icon币界网
分享
AI summary icon精華摘要
NVIDIA 宣布推出適用於企業和 PC 的新開源 AI 模型,為市場帶來新的 AI + 加密貨幣新聞。Nemotron 3.5 Super VL 是一款擁有 1200 億參數的模型,性能可與更大模型媲美,並支援邊緣運算。兩款輕量級 Bolt 模型現已推出,適用於搭載 RTX Spark 芯片的 AI PC 和 DGX Spark 工作站。微軟和戴爾等合作夥伴正逐步推出這些模型,其在特定任務中的表現優於競爭對手。Skydance 和 EY 等大型企業已開始測試此技術。NVIDIA 正推動本地化 AI 助理,以減少對雲端的依賴。隨著企業採用裝置端 AI 解決方案,未來可能迎來新的代幣上線。
幣界網報導:

NVIDIA 於週四發布了新的開源權重模型,旨在支援始終在線的代理和邊緣計算。

Nemotron 3.5 Super VL 是一款擁有 1200 億參數的大模型,專為企業用代理設計。英偉達表示,儘管其參數少於 Nemotron 3 Ultra 模型,但在指令遵循和工具使用任務上的準確度可相近。

在另一端,英偉達還發布了兩款輕量級 Bolt 模型。這些模型旨在於新的 AI PC(搭載英偉達 RTX Spark 芯片)以及運行 DGX Spark 的工作站上本地運行。這類面向消費者、程式設計師和企業知識工作者的 PC,正透過微軟和戴爾等合作夥伴進入市場。

英偉達開放模型與軟體副總裁 Kari Briski 在介紹這些模型的部落格文章中寫道:「任何希望在英偉達基礎設施上運行代理的組織,現在都能為其對應等級找到一個開放且優化的模型,而無需在能力和可部署性之間做選擇。」

英偉達表示,在針對特定代理任務進行後訓練後,Super VL 完成任務的速度快於 Anthropic 和 OpenAI 的競爭模型(Opus 5、GPT 6.1 Sol、Luna、Astra)。這些任務包括文件智能、財務會計、科學實驗、醫療保險理賠以及安全攻擊韌性。

雖然每當大型科技公司發布新模型時,這類說法都很常見,但英偉達也列出了一批據稱正在使用 Super VL 的大型公司,包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce。

當然,這並不是英偉達首次發布可與專有前沿實驗室競爭的開源權重模型——這些公司既是它的客戶,也是它的投資對象。英偉達的 Nemotron 系列模型涵蓋多模態人工智慧、推理、編程、數學和企業自動化等功能。

不過,這些增長迅速的專有AI實驗室如今也開始轉向英偉達之外的其他晶片和AI系統廠商以滿足需求,例如 AWS 的 Trainium、Cerebras,以及自研晶片。

因此,英偉達正大力押注企業希望在自有資料中心運行開源模型這一趨勢。Briski 寫道:「與封閉的前沿模型不同,組織可以用自己的數據對 Super VL 進行後訓練,將其部署在自己的基礎設施上,並擁有自己構建的成果。」

但隨著這些更小、可本地運行的 PC 模型發布,英偉達也在試圖推動尚處萌芽階段的消費級 AI 助手趨勢。儘管看起來每天都有初創公司和大型科技公司推出新的 AI 助手,但對隱私感到擔憂的消費者,未必願意讓這類代理深入介入自己的生活,並接觸家庭、健康、財務等資訊。

因此,英偉達希望透過打造可在本地運行模型和代理的機器,為自己開闢一個新市場,銷售由其晶片驅動的 PC。Briski 寫道,PC 用戶「可以委派日常項目……而無需把這些工作負載發送到雲端」。

在兩款 Bolt 模型中,Nemotron 3.5 Bolt 74B-A9B 24GB 是一款 740 億參數模型,專為本地代理任務設計,旨在平衡速度與推理能力,以處理多步推理、工具調用和網頁瀏覽。更小的 Bolt E4B 則面向對話型代理。

NVIDIA 表示,Super VL 和 Bolt 74B-A9B 現已可用,Bolt E4B 將於本月底推出。

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款和風險披露 。