NVIDIA оголосила про повномасштабне виробництво стелажів Groq 3 LPX для розгортання Nebius

ChainCatcher повідомляє, що в понеділок за місцевим часом старший директор NVIDIA Dion Harris оголосив, що стелажі Groq 3 LPX перейшли на повномасштабне виробництво і будуть розгорнуті у центрах обробки даних нового хмарного провайдера Nebius, з очікуванням запуску в кінці цього року. Цей крок означає комерціалізацію технологій, отриманих NVIDIA після угоди з Groq про ліцензування технологій на суму близько 20 мільярдів доларів США, укладеної у грудні минулого року. Кілька ключових співробітників Groq вже приєдналися до NVIDIA, а засновник Jonathan Ross став головним архітектором програмного забезпечення NVIDIA. NVIDIA прискорює виробництво чипів Groq та постачання продуктів клієнтам, що підкреслює важливість низької затримки. Groq 3 LPX, представлений у березні цього року, є прискорювачем висновку на платформі Vera Rubin; його архітектура інтегрує 500 мегабайт швидкодіючої SRAM безпосередньо на кристалі для зменшення обмежень пам’яті. Кожен стелаж LPX може вміщувати 256 чипів Groq 3; NVIDIA посилається на результати тестування, згідно з якими чип може обробляти 3400 токенів на секунду. Цей чип виробляється Samsung. Harris зазначив, що чипи з низькою затримкою не замінюють GPU, а призначені для використання в різних етапах завантаження з використанням відповідних процесорів; хмарні провайдери можуть пропонувати клієнтам, чутливим до затримки, більш дорогі тарифні плани. Генеральний директор NVIDIA Дженсен Хуан планує виділити приблизно чверть простору центрів обробки даних для програмних застосунків чипам Groq, а решту — системам Vera Rubin, і очікує, що до 2027 року загальний обсяг продажів Blackwell і Vera Rubin досягне 1 трильйона доларів США.