Odaily星球日報訊 Marvell Technology 宣布推出面向 AI 基礎設施的新一代記憶體解決方案組合,覆蓋伺服器級 AI 儲存、機架級 CXL 記憶體擴展與池化,以及多機櫃光互聯共享記憶體,旨在解決 Agentic AI 推理過程中日益增長的記憶體容量和頻寬瓶頸。
Marvell 表示,隨著 AI 模型規模擴大、上下文窗口延長以及 KV Cache 需求增長,傳統計算與記憶體緊耦合架構正限制 AI 推理效率。通過記憶體解耦(memory disaggregation),可以讓記憶體資源更加獨立於計算資源擴展,提高 GPU 利用率並降低資料移動延遲。此次發布的產品包括:
Bravera SC6 PCIe 6.0 SSD 控制器:專為 AI 推理存儲場景設計,可協助雲服務商將更多 KV Cache 移至高性能 SSD,提升基礎設施效率。該產品採用兼容多供應商 NAND 的架構,預計將於 2026 年第四季度開始送樣。
Marvell Structera X 記憶體擴展方案:基於 CXL 技術,支援機架級記憶體擴展與資源池化,協助資料中心更靈活地共享與調配記憶體資源,降低 AI 基礎設施成本。
Marvell Photonic Fabric 光互聯記憶體方案:透過光互聯技術構建跨多機櫃共享記憶體架構,可支援最高 32TB 溫熱 KV Cache 卸載,並幫助 AI 推理叢集提升吞吐能力。
Marvell 表示,Photonic Fabric 方案可在現有數據中心空間和功耗限制下,實現最高 2 至 3 倍的 Token 吞吐提升,支持更大規模模型和更長上下文 AI 應用。
Marvell 高管 Will Chu 表示,AI 基礎設施正在從單一伺服器架構轉向計算、記憶體和連接協同運行的系統,未來記憶體需要更加獨立地擴展,以提升資源利用率和 Token 效率。
隨著 AI Agent 和大模型推理需求持續增長,記憶體容量、頻寬和資料傳輸效率正成為繼算力之後 AI 基礎設施競爭的新焦點。
