NVIDIA Rubin Ultra 的 HBM 已降至 8-Hi,因為頻寬成本成為關鍵限制

iconKuCoinFlash
分享
AI summary icon精華摘要
NVIDIA 將 Rubin Ultra 中的 HBM 調整為 8-Hi,並以單位帶寬成本上升作為關鍵因素。此變動將 DRAM 晶片用量減少三分之一,緩解 HBM 供應壓力,同時維持或提升總帶寬。隨著 AI 芯片設計趨向帶寬效率,值得關注的山寨幣可能出現看漲趨勢。電力和成本限制現在比純粹的 HBM 容量更為重要。
ME AI 消息,SemiAnalysis 表示,英偉達將 Rubin Ultra 的 HBM 從 12-Hi 下調至 8-Hi,核心原因並非單純降低容量,而是當前 AI 推理真正受限的是每單位帶寬成本($/bandwidth),而非每單位容量成本($/capacity)。 HBM 堆疊層數主要決定容量,而總帶寬更多取決於 HBM 堆疊數量、介面寬度和傳輸速率。因此,從 12-Hi 降至 8-Hi,可以減少約 1⁄3 的 DRAM 裸片用量,緩解當前緊張且昂貴的 HBM 供應壓力,同時在堆疊數量和介面配置不變的情況下,仍可維持甚至提高整體帶寬。 這意味著 英偉達 正在主動用更少的 HBM 容量換取更高的帶寬經濟性。對於越來越以推理為主的 AI 工作負載而言,模型並不只是需要「裝下更多資料」,更需要持續、快速地搬運模型權重和 KV Cache,因此記憶體帶寬的重要性正在上升。 Rubin Ultra 的調整反映出 HBM 競爭邏輯正在發生變化:AI 芯片追求的已經不再是單純堆高 HBM 容量,而是在有限的 DRAM、功耗和成本約束下,獲得盡可能高的有效帶寬。HBM 的核心瓶頸正在從「容量夠不夠」,轉向「每一美元能買到多少帶寬」。 (來源:華爾街見聞)
免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款風險披露