ME News 消息,8 月 27 日(UTC+8),英偉達發布面向下一代 AI 基礎設施的 NVHBM 技術。NVHBM 是一種與主要存儲晶片供應商共同設計及驗證的定制 HBM 基礎裸片,將通過 NVLink Fusion 向開發定制 AI 加速器(XPU)的超大規模雲服務商和 AI 原生企業提供。 與標準 HBM4e 相比,NVHBM 每個堆疊可提供最高 30% 的額外記憶體頻寬,降低最高 15% 的 HBM 功耗,並為 XPU 釋放最多 25% 的計算裸片面積。英偉達稱,上述改進可幫助定制加速器支援更大的 AI 模型、更快讀取 KV 緩存,並提高訓練及大規模推理效率。 NVHBM 通過重新設計實體記憶體介面,將記憶體控制器移入 3D HBM 堆疊並整合定制 PHY,使 PHY 及配套區域面積最多減少 67%,同時簡化中介層布線。釋放的晶片面積可用於增加矩陣引擎、緩存、網路及其他針對特定工作負載的功能。 在機架層面,NVLink Fusion 芯粒可將定制 XPU 連接至 NVLink 網路,並通過 NVLink-C2C 連接 CPU。英偉達表示,NVHBM 與 NVLink Fusion 結合後,每顆 XPU 的端到端效能可提高約 30%,同時允許定制 XPU 與英偉達 GPU 組成異構計算系統。官方尚未在文章中披露具體商用時間。(來源:BlockBeats)
NVIDIA 推出 NVHBM 記憶體技術,頻寬提高 30%,功耗降低 15%
KuCoinFlash分享
NVIDIA 於 8 月 27 日推出其用於 AI 基礎設施的 NVHBM 記憶體技術,相比 HBM4e,頻寬提升 30%,功耗降低 15%。此技術與主要記憶體供應商共同開發,將 XPU 晶片面積縮小 25%,並減少 67% 的 PHY 空間。它透過為矩陣引擎和自訂加速器提供更大空間,支援 AI + 加密貨幣新聞生態系統。搭配 NVLink Fusion,可提升 XPU 性能 30%,並與 NVIDIA GPU 兼容。此技術主要針對超大規模供應商和原生 AI 企業,但未提供商業化時間表。
來源:顯示原文
免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。
虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款和風險披露 。