NVIDIA Rubin Ultra сокращена до 192 ГБ из-за ограничений по поставкам и мощности

Согласно сообщению Mars Finance, 3 августа исследовательская компания SemiAnalysis выпустила отчет, в котором говорится, что спецификации Rubin Ultra, представленные NVIDIA ключевым клиентам, ниже ранее ожидавшихся рынком. В отчете указано, что основная SKU Rubin Ultra по-прежнему будет использовать HBM4, теоретический пиковый показатель FLOPs останется неизменным, но конфигурация HBM снижена до 8-Hi и 192 ГБ по сравнению с 12-Hi и 288 ГБ у предыдущей версии Rubin. Потребляемая мощность на уровне чипа составляет около 1800 Вт и сопоставима с начальными версиями Rubin. Отчет отмечает, что основные улучшения в текущем плане Rubin Ultra сосредоточены на масштабируемом соединении на уровне NVL576. Одна из системных конфигураций включает соединение 8 стойок по 72 GPU с использованием NPO для межстойкового переключения. SemiAnalysis считает, что данная конфигурация является одним из наиболее вероятных кандидатов на реализацию. SemiAnalysis также указывает, что NVIDIA по-прежнему может предложить высокомощную версию Max-P мощностью от 2600 до 2800 Вт, а также версию мощностью 1200 Вт для задач с низкой вычислительной нагрузкой, таких как декодирование токенов. Версия Max-Q мощностью 1800 Вт лучше соответствует текущим условиям ограниченной электроподачи в центрах обработки данных и обладает более высокой эффективностью развертывания по показателю FLOPs/Watt. SemiAnalysis считает, что основной причиной корректировки спецификаций Rubin Ultra является дефицит HBM и ограничения по электропитанию в центрах обработки данных. Снижение емкости HBM и уровня потребляемой мощности способствует повышению практической применимости для клиентов, снижению затрат на материалы и смягчению давления от ожидаемого роста цен на HBM в следующем году.