Selon les nouvelles de ME, le 27 août (UTC+8), NVIDIA a lancé la technologie NVHBM destinée à la prochaine génération d'infrastructures IA. NVHBM est une puce HBM personnalisée conçue et validée en collaboration avec les principaux fournisseurs de puces de mémoire, qui sera mise à disposition des fournisseurs de services cloud à grande échelle et des entreprises natives de l'IA développant des accélérateurs IA personnalisés (XPU) via NVLink Fusion. Par rapport au HBM4e standard, NVHBM offre jusqu'à 30 % de bande passante mémoire supplémentaire par pile, réduit la consommation d'énergie du HBM de jusqu'à 15 %, et libère jusqu'à 25 % de la surface de la puce de calcul pour les XPU. NVIDIA affirme que ces améliorations permettent aux accélérateurs personnalisés de prendre en charge des modèles IA plus volumineux, d'accéder plus rapidement aux caches KV, et d'augmenter l'efficacité de l'entraînement et de l'inférence à grande échelle. En réorganisant l'interface mémoire physique, en déplaçant le contrôleur mémoire à l'intérieur de la pile HBM 3D et en intégrant un PHY personnalisé, NVHBM réduit de jusqu'à 67 % la surface occupée par le PHY et ses zones associées, tout en simplifiant le routage sur le substrat intermédiaire. La surface libérée peut être utilisée pour augmenter les moteurs matriciels, les caches, les réseaux et d'autres fonctionnalités adaptées à des charges de travail spécifiques. Au niveau du rack, le puce NVLink Fusion relie les XPU personnalisés au réseau NVLink et les connecte aux processeurs via NVLink-C2C. NVIDIA indique que la combinaison de NVHBM et de NVLink Fusion permet d'augmenter les performances extrémité-à-extremity de chaque XPU d'environ 30 %, tout en permettant aux XPU personnalisés de former des systèmes de calcul hétérogènes avec les GPU NVIDIA. La date de commercialisation exacte n'a pas encore été divulguée dans l'article officiel. (Source : BlockBeats)
NVIDIA lance la technologie de mémoire NVHBM avec une bande passante supérieure de 30 % et une consommation d'énergie réduite de 15 %
KuCoinFlashPartager
Résumé
NVIDIA a dévoilé sa technologie de mémoire NVHBM pour les infrastructures d'IA le 27 août, offrant une bande passante supérieure de 30 % et une consommation d'énergie réduite de 15 % par rapport à HBM4e. Développée avec des fournisseurs majeurs de mémoire, cette technologie réduit la surface du die XPU de 25 % et diminue l'espace PHY de 67 %. Elle soutient les écosystèmes d'actualités IA + crypto en permettant plus d'espace pour les moteurs matriciels et les accélérateurs personnalisés. Associée à NVLink Fusion, elle augmente les performances XPU de 30 % et est compatible avec les GPU NVIDIA. Cette sortie cible les fournisseurs hyperscale et les entreprises natives de l'IA, bien qu'aucun calendrier sur chaîne pour la commercialisation n'ait été communiqué.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.