NVIDIA Rubin Ultra HBM réduit à 8-Hi alors que le coût de la bande passante devient une contrainte clé

iconKuCoinFlash
Partager
AI summary iconRésumé
NVIDIA a réduit le HBM dans Rubin Ultra à 8-Hi, citant l'augmentation du coût de la bande passante par unité comme facteur clé. Ce changement réduit l'utilisation des puces DRAM d'un tiers, allégeant l'approvisionnement en HBM tout en maintenant ou augmentant la bande passante totale. Les altcoins à surveiller pourraient connaître une tendance haussière alors que la conception des puces IA privilégie désormais l'efficacité de la bande passante. La consommation d'énergie et les contraintes de coût sont désormais plus importantes que la capacité brute en HBM.
ME AI Message, SemiAnalysis indique que NVIDIA a réduit le nombre de couches HBM de Rubin Ultra de 12-Hi à 8-Hi ; la raison principale n'est pas simplement de réduire la capacité, mais parce que le véritable goulot d'étranglement actuel pour l'inférence AI réside dans le coût par unité de bande passante ($/bandwidth), et non dans le coût par unité de capacité ($/capacity). Le nombre de couches HBM détermine principalement la capacité, tandis que la bande passante totale dépend davantage du nombre de piles HBM, de la largeur de l'interface et du débit de transmission. Ainsi, passer de 12-Hi à 8-Hi permet de réduire d'environ 1/3 la quantité de puces DRAM utilisées, soulageant ainsi la pression actuelle sur l'approvisionnement en HBM, qui est tendu et coûteux, tout en maintenant, voire en augmentant la bande passante globale, sans modifier le nombre de piles ni la configuration de l'interface. Cela signifie que NVIDIA cherche activement à échanger une capacité HBM moindre contre une meilleure efficacité économique en bande passante. Pour les charges de travail AI de plus en plus axées sur l'inférence, les modèles ne nécessitent pas seulement « d'empiler davantage de données », mais aussi un transfert continu et rapide des poids du modèle et du KV Cache ; la bande passante mémoire gagne donc en importance. L'ajustement de Rubin Ultra reflète une évolution du logique de concurrence autour de l'HBM : les puces AI ne cherchent plus simplement à augmenter la capacité HBM, mais à maximiser la bande passante effective dans des contraintes limitées de DRAM, de consommation d'énergie et de coût. Le goulot d'étranglement principal de l'HBM passe ainsi de « la capacité est-elle suffisante ? » à « combien de bande passante puis-je acheter pour un dollar ? ». (Source : Wall Street Journal)
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.