NVIDIA Rubin Ultra HBM reduzido para 192 GB devido a restrições de fornecimento e energia

Notícia da Mars Finance: em 3 de agosto, a instituição de pesquisa SemiAnalysis divulgou um relatório afirmando que as especificações do Rubin Ultra apresentadas pela NVIDIA a clientes-chave estão abaixo das expectativas anteriores do mercado. O relatório indica que a SKU principal do Rubin Ultra ainda utilizará HBM4, mantendo o FLOPs pico teórico inalterado, mas a configuração de HBM foi reduzida para 8-Hi, 192 GB, em comparação com os 12-Hi, 288 GB do Rubin anterior. O consumo de energia por chip é de aproximadamente 1800 W, semelhante às primeiras versões de Rubin enviadas. O relatório destaca que os principais upgrades no roteiro atual do Rubin Ultra concentram-se na interconexão em escala de nível NVL576. Uma das formas de sistema envolve a interconexão de 8 racks de 72 GPUs cada, utilizando NPO para conexões entre switches em diferentes racks. A SemiAnalysis considera essa forma uma das candidatas mais prováveis atualmente. A SemiAnalysis afirma que a NVIDIA ainda pode oferecer uma versão Max-P de alta potência de 2600 W a 2800 W, bem como uma versão de 1200 W voltada para cargas computacionais mais baixas, como token decode. A versão Max-Q de 1800 W é mais adequada ao ambiente atual de limitação de energia em data centers, oferecendo maior eficiência de implantação em termos de FLOPs/Watt. A SemiAnalysis acredita que a modificação das especificações do Rubin Ultra pela NVIDIA tem como causa principal a escassez de HBM e as restrições de energia nos data centers. Reduzir a capacidade e as especificações de energia do HBM ajuda a aumentar a viabilidade de implantação pelos clientes, reduzir custos de materiais e aliviar a pressão de aumento de preços do HBM no próximo ano.