NVIDIA testará configurações de HBM mais baixas para a GPU Rubin Ultra diante de restrições de oferta

Notícia da Huoxing Finance: em 7 de agosto, a NVIDIA está avaliando a ajuste da configuração de HBM do próximo GPU de IA, Rubin Ultra, planejando lançar uma versão com menos memória do que o originalmente previsto, a fim de aliviar a pressão de produção causada pela escassez de HBM de alto desempenho. Fontes informadas revelaram que, nas últimas semanas, a NVIDIA já testou pelo menos três versões com diferentes capacidades de memória, algumas utilizando especificações de memória mais baixas. Isso significa que, mesmo a NVIDIA, que detém o controle principal sobre a GPU, precisa fazer concessões entre as especificações do produto e sua capacidade de fornecimento. O Rubin Ultra é posicionado acima da série Rubin, que está prestes a entrar em produção, e originalmente planejava ser equipado com HBM de maior capacidade e largura de banda para melhorar o desempenho de treinamento e inferência de grandes modelos. Se a configuração de memória reduzida for finalmente adotada, os clientes precisarão implantar mais GPUs para executar cargas de trabalho de IA grandes, como modelos de linguagem de grande porte, aumentando assim o custo do sistema e a complexidade do cluster. Para provedores de nuvem como Microsoft, Meta, Amazon e Google, que continuam aumentando seus gastos em capital para IA, os custos de construção de data centers podem subir ainda mais. Essa medida da NVIDIA reflete também que, apesar da empresa possuir a maior capacidade de negociação na cadeia de suprimentos, a restrição no fornecimento de HBM continua sendo o gargalo central para a expansão da capacidade de IA. Anteriormente, a capacidade de produção de HBM de alto desempenho da SK Hynix e da Micron já estava constantemente sob pressão; o fato da NVIDIA reduzir ativamente as especificações confirma ainda mais que a discrepância entre oferta e demanda de HBM será difícil de resolver no curto prazo.