Marvell 推出 AI 記憶體解耦架構,以解決推理頻寬瓶頸

iconKuCoinFlash
分享
AI summary icon精華摘要
Marvell 宣布推出新的 AI 記憶體架構,以解決 AI 系統中的推理頻寬問題。該產品組合包括伺服器級儲存、CXL 記憶體擴展和光子互連。AI + 加密貨幣新聞顯示,隨著企業尋求可擴展的基礎設施,兩者之間的重疊日益增加。Bravera SC6、Structera X 和 Photonic Fabric 旨在提升 GPU 效率和代幣吞吐量。通膨數據仍是關鍵的宏觀因素,但技術創新持續推動基礎設施升級。

Odaily星球日報訊 Marvell Technology 宣布推出面向 AI 基礎設施的新一代記憶體解決方案組合,覆蓋伺服器級 AI 儲存、機架級 CXL 記憶體擴展與池化,以及多機櫃光互聯共享記憶體,旨在解決 Agentic AI 推理過程中日益增長的記憶體容量和頻寬瓶頸。

Marvell 表示,隨著 AI 模型規模擴大、上下文窗口延長以及 KV Cache 需求增長,傳統計算與記憶體緊耦合架構正限制 AI 推理效率。通過記憶體解耦(memory disaggregation),可以讓記憶體資源更加獨立於計算資源擴展,提高 GPU 利用率並降低資料移動延遲。此次發布的產品包括:

Bravera SC6 PCIe 6.0 SSD 控制器:專為 AI 推理存儲場景設計,可協助雲服務商將更多 KV Cache 移至高性能 SSD,提升基礎設施效率。該產品採用兼容多供應商 NAND 的架構,預計將於 2026 年第四季度開始送樣。

Marvell Structera X 記憶體擴展方案:基於 CXL 技術,支援機架級記憶體擴展與資源池化,協助資料中心更靈活地共享與調配記憶體資源,降低 AI 基礎設施成本。

Marvell Photonic Fabric 光互聯記憶體方案:透過光互聯技術構建跨多機櫃共享記憶體架構,可支援最高 32TB 溫熱 KV Cache 卸載,並幫助 AI 推理叢集提升吞吐能力。

Marvell 表示,Photonic Fabric 方案可在現有數據中心空間和功耗限制下,實現最高 2 至 3 倍的 Token 吞吐提升,支持更大規模模型和更長上下文 AI 應用。

Marvell 高管 Will Chu 表示,AI 基礎設施正在從單一伺服器架構轉向計算、記憶體和連接協同運行的系統,未來記憶體需要更加獨立地擴展,以提升資源利用率和 Token 效率。

隨著 AI Agent 和大模型推理需求持續增長,記憶體容量、頻寬和資料傳輸效率正成為繼算力之後 AI 基礎設施競爭的新焦點。

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款風險披露