NVIDIA probará configuraciones de HBM más bajas para la GPU Rubin Ultra ante restricciones de suministro

Noticias de Huoxing Finance: el 7 de agosto, NVIDIA está evaluando ajustar la configuración de HBM de su próxima GPU de IA, Rubin Ultra, con el plan de lanzar una versión con menos memoria VRAM que la original para aliviar la presión de producción causada por la escasez de suministro de HBM de gama alta. Fuentes informadas revelan que durante las últimas semanas NVIDIA ha probado al menos tres versiones con distintas capacidades de memoria, algunas con especificaciones de memoria más bajas. Esto significa que incluso NVIDIA, que domina la GPU, debe hacer concesiones entre las especificaciones del producto y su capacidad de suministro. Rubin Ultra está posicionada por encima de la serie Rubin que pronto entrará en producción y originalmente estaba diseñada para incorporar HBM con mayor capacidad y ancho de banda para mejorar el rendimiento en el entrenamiento e inferencia de modelos grandes. Si finalmente se adopta una configuración con menos memoria VRAM, los clientes deberán desplegar más GPU para ejecutar cargas de trabajo de IA grandes, como modelos de lenguaje grandes, lo que aumentará los costos del sistema y la complejidad del clúster. Para proveedores de nube como Microsoft, Meta, Amazon y Google, que continúan aumentando sus gastos de capital en IA, los costos de construcción de centros de datos podrían aumentar aún más. Esta medida de NVIDIA también refleja que, aunque la empresa posee la mayor capacidad de negociación en la cadena de suministro, las restricciones en el suministro de HBM siguen siendo el cuello de botella central en la expansión de la capacidad de cómputo de IA. Previo a esto, la capacidad de producción de HBM de gama alta de SK Hynix y Micron ya había estado constantemente tensa; esta reducción activa de configuración por parte de NVIDIA confirma aún más que la discrepancia entre la oferta y la demanda de HBM será difícil de aliviar a corto plazo.