NVIDIA объявила о полном производстве стойек Groq 3 LPX для развертывания Nebius

ChainCatcher сообщает, что в понедельник, по местному времени, старший директор NVIDIA Дайон Харрис объявил, что стойки Groq 3 LPX перешли в фазу полномасштабного производства и будут развернуты в центрах обработки данных нового облачного провайдера Nebius, с ожидаемым запуском в конце этого года. Это означает коммерциализацию технологии, приобретенной NVIDIA в декабре прошлого года в рамках сделки с Groq на сумму около 20 миллиардов долларов США. Несколько ключевых сотрудников Groq уже присоединились к NVIDIA, а основатель Джонатан Росс занял должность главного архитектора программного обеспечения в NVIDIA. NVIDIA ускоряет производство чипов Groq и поставку продукции клиентам, подчеркивая важность низкой задержки при выполнении инференса. Groq 3 LPX, выпущенный в марте этого года, представляет собой ускоритель инференса для платформы Верру Рубин, в котором на кристалле интегрировано 500 МБ высокоскоростной SRAM для снижения узких мест памяти. Каждая стойка LPX может объединять до 256 чипов Groq 3; согласно тестам, приведенным NVIDIA, они способны обрабатывать до 3400 токенов в секунду. Чипы производятся Samsung. Харрис отметил, что чипы с низкой задержкой не заменяют GPU, а предназначены для использования в соответствующих этапах рабочей нагрузки с применением оптимальных процессоров; облачные провайдеры могут предлагать клиентам, чувствительным к задержке, более дорогие тарифные планы. Генеральный директор NVIDIA Хуан Жэньсюнь планирует выделить около четверти пространства центров обработки данных для приложений программирования под чипы Groq, остальное пространство будет занято системами Vera Rubin, и ожидается, что к 2027 году совокупные продажи Blackwell и Vera Rubin достигнут 1 триллиона долларов США.