NVIDIA Rubin UltraのHBMが8-Hiに削減、帯域幅コストが主要な制約に

iconKuCoinFlash
共有
AI summary icon概要
NVIDIAは、Rubin UltraにおいてHBMを8-Hiに削減し、単位あたりの帯域幅コストの上昇を主な要因として挙げました。この変更により、DRAMダイの使用量が3分の1削減され、HBMの供給が緩和されながらも、合計帯域幅は維持または向上します。AIチップ設計が帯域幅効率へとシフトする中、注目すべきアルトコインは上昇トレンドを示す可能性があります。電力とコストの制約が、HBM容量の純粋な規模よりも重要になっています。
ME AI ニュース、SemiAnalysisによると、NVIDIAはRubin UltraのHBMを12-Hiから8-Hiに引き下げた。その主な理由は単に容量を減らすためではなく、現在のAI推論において真正に制約となるのが、単位容量あたりのコスト($/capacity)ではなく、単位帯域幅あたりのコスト($/bandwidth)だからである。 HBMの積層段数は主に容量を決定し、総帯域幅はむしろHBMスタック数、インターフェース幅、転送速度に依存する。したがって、12-Hiから8-Hiに下げることで、DRAMダイの使用量を約1⁄3削減でき、現在の緊張した高価なHBM供給の圧力を緩和しつつ、スタック数とインターフェース構成を変更せずに全体的な帯域幅を維持甚至向上させることができる。 これはNVIDIAが、より少ないHBM容量を用いてより高い帯域幅の経済性を実現しようとしていることを意味する。推論が主流となるAIワークロードにおいて、モデルは単に「より多くのデータを収容」するだけでなく、モデル重みやKVキャッシュを継続的かつ高速に転送する必要があるため、メモリ帯域幅の重要性は高まっている。 Rubin Ultraの調整は、HBMの競争ロジックが変化していることを反映している。AIチップが追求するのは、単にHBM容量を積み上げることではなく、限られたDRAM、電力、コスト制約の下で可能な限り高い有効帯域幅を得ることである。HBMの核心的ボトルネックは、「容量が十分か」から、「1ドルでどれだけの帯域幅が得られるか」へと移行している。 (出典:华尔街见闻)
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。 デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。