NVIDIA 開源 Nemotron 3.5 Lightning 用於代理工具執行

icon MarsBit
分享
AI summary icon精華摘要
NVIDIA 發布 Nemotron 3.5 Lightning 開源模型,專為鏈上新聞環境中的代理工具執行進行優化。該模型每標記擁有 300 億個活動參數,運行速度比類似模型快四倍。在 PinchBench 上達到 86% 的準確率,並比 Qwen3.6 35B 快 30% 完成 10,000 個任務。基於 MoE 架構構建,支援多個平台,並提供開放權重用於訓練。新代幣上線可能受益於其速度與客製化選項。

根據動察 Beating 監測,英偉達發布開源模型 Nemotron 3.5 Lightning,專為長時間運行的 Agent 執行「執行任務」。模型總參數為 300 億,每個 Token 僅激活 30 億,主要負責工具調用、結果檢查和子 Agent 調度等高頻任務。英偉達的思路是將 Agent 的分工做得更徹底:複雜規劃交由 Nemotron 3 Ultra 等大型模型,大量重複執行則交由 Lightning 處理。官方稱,其輸出速度最高可達同級模型的 4 倍。在 PinchBench 上,Lightning 的準確率達 86%,在準確率相近的情況下,完成 1 萬個任務比 Qwen3.6 35B 快 30%。 模型採用 MoE 架構,並針對 Agent Harness 進行專門訓練,加入多 Token 預測與推測解碼。官方提供 BF16 和 NVFP4 權重,可在 RTX 5090、DGX Spark 等本地設備運行,並支援 llama.cpp、Ollama、LM Studio 和 Unsloth。 此外,它也強調可定製性。英偉達開放了權重、部分訓練數據與訓練配方,企業可進一步針對程式碼、安全、法律等任務進行後訓練。官方展示的案例中,Lightning 在後訓練後於多項專業任務上均顯著提升分數。

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款風險披露