NVIDIA Rubin Ultra HBM reducido a 8-Hi ya que el costo de ancho de banda se convierte en la principal restricción

iconKuCoinFlash
Compartir
AI summary iconResumen
NVIDIA redujo el HBM en Rubin Ultra a 8-Hi, citando el aumento del costo de ancho de banda por unidad como factor clave. Este cambio reduce el uso de die de DRAM en un tercio, aliviando la oferta de HBM mientras mantiene o aumenta el ancho de banda total. Las altcoins a vigilar podrían experimentar una tendencia alcista a medida que el diseño de chips de IA se inclina hacia la eficiencia en ancho de banda. Ahora, las restricciones de potencia y costo son más importantes que la capacidad bruta de HBM.
ME AI Noticias, SemiAnalysis indica que NVIDIA ha reducido el HBM de Rubin Ultra de 12-Hi a 8-Hi; la razón principal no es simplemente reducir la capacidad, sino que la verdadera limitación actual en la inferencia de IA es el costo por unidad de ancho de banda ($/bandwidth), no el costo por unidad de capacidad ($/capacity). El número de capas apiladas en HBM determina principalmente la capacidad, mientras que el ancho de banda total depende más del número de pilas HBM, el ancho del interfaz y la velocidad de transmisión. Por lo tanto, reducir de 12-Hi a 8-Hi puede disminuir aproximadamente 1⁄3 del uso de chips DRAM, aliviando la presión actual en el suministro escaso y costoso de HBM, mientras se mantiene o incluso mejora el ancho de banda total, sin cambiar el número de pilas ni la configuración del interfaz. Esto significa que NVIDIA está activamente intercambiando menor capacidad de HBM por una mayor rentabilidad del ancho de banda. Para cargas de trabajo de IA cada vez más centradas en la inferencia, los modelos no solo necesitan “almacenar más datos”, sino también mover continuamente y rápidamente los pesos del modelo y el KV Cache; por ello, la importancia del ancho de banda de memoria está aumentando. El ajuste de Rubin Ultra refleja que la lógica de competencia en HBM está cambiando: los chips de IA ya no buscan simplemente aumentar la capacidad de HBM, sino obtener el máximo ancho de banda efectivo dentro de las limitaciones restrictivas de DRAM, consumo energético y costo. El cuello de botella principal del HBM está pasando de “¿es suficiente la capacidad?” a “¿cuánto ancho de banda se puede comprar por dólar?”. (Fuente: Wall Street Journal)
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.