PrismML 推出 1.58-Bit 三元 Bonsai 模型，參數減少 9 倍且智慧度更高

iconKuCoinFlash
分享
AI summary icon精華摘要
鏈上數據顯示，PrismML 於 4 月 17 日推出了 1.58-bit 三元 Bonsai 模型，記憶體使用量降至 16-bit 模型的九分之一。8B 版本在 iPhone 17 Pro Max 上運行速度達 27 tok/s，並在基準測試中取得 75.5 分。該模型已上線 Hugging Face，支援 Apple 裝置，並以 Apache 2.0 開源。市場觀察人士指出，隨著輕量級 AI 的普及，此發布可能影響恐懼與貪婪指數。

ME News 消息，4 月 17 日（UTC+8），據動察 Beating 監測，PrismML 發布 Ternary Bonsai 系列語言模型，透過 1.58 比特（ternary weights）技術，在保持高性能的同時將模型顯存占用縮減至 16 比特模型的九分之一。該系列包含 8B、4B 和 1.7B 三種參數規模，現已於 Hugging Face 開源並支援蘋果設備原生運行。所謂 1.58 比特模型，是指將神經網絡中的權重限制在 {-1, 0, +1} 三個值。相比此前追求極致壓縮的 1 比特模型（權重僅為 {-1, +1}），引入「0」值能夠有效剔除冗餘連接，讓模型在極小的體積下依然保留複雜的推理能力。此次發布的 Ternary Bonsai 8B 權重文件僅 1.75 GB，其基準測試均分達到 75.5，不僅比自家的 1 比特版本高出 5 分，甚至在「智能密度」（每 GB 显存貢獻的性能）上大幅領先 Qwen3 等同類稠密模型。 能效比和運行速度是該系列的另一核心優勢。在 iPhone 17 Pro Max 上，8B 版本運行速度可達 27 tok/s，能效比提升約 3 至 4 倍。這對於需要在手機、筆記本等端側設備上部署高性能 AI 的開發者而言，意味著可以用極小的記憶體代價換取接近完整精度模型的智能表現。 目前，Ternary Bonsai 模型已在 Apple 設備上透過 MLX 框架實現原生支援。模型權重採用 Apache 2.0 協議分發。 （來源：BlockBeats）

來源:顯示原文
免責聲明：本頁面資訊可能來自第三方，不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用，不構成任何形式的陳述或保證，也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏，或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息，請參閱我們的使用條款和風險披露 。