Сделка NVIDIA на $2 млрд с Groq приносит плоды: чипы Groq 3 LPX вступают в массовое производство

icon MarsBit
Поделиться
AI summary iconСводка
Новости криптовалют: чипы NVIDIA Groq 3 LPX вошли в полномасштабное серийное производство. В декабре прошлого года компания приобрела технологию Groq за 2 миллиарда долларов и привлекла ключевых сотрудников, включая основателя Джонатана Росса. Через восемь месяцев был запущен первый продукт. Система Groq 3 LPX, созданная для инференса крупных моделей, использует 256 чипов Groq 3 LPU. В тестах она достигла 3431 выходных токенов в секунду для Gemma 2 31B после 100 000 входных токенов — почти в четыре раза быстрее, чем у ведущего публичного API. Nebius станет первым провайдером AI-облака, использующим Groq 3 LPX, при этом Groq и Dell также внедряют его. Эта новость о криптовалюте знаменует собой важный шаг в ускорении ИИ.

Новости Beating AI: NVIDIA Groq 3 LPX перешел в полномасштабное серийное производство. В декабре прошлого года NVIDIA заплатила около 20 миллиардов долларов за лицензию на технологию Groq и привлекла ключевую команду, включая основателя Джонатана Росса. Через восемь месяцев первое аппаратное решение этой сделки было официально запущено. Groq 3 LPX — это система, специально предназначенная для ускорения инференса крупных моделей, в которой используется 256 чипов Groq 3 LPU. В тестах Artificial Analysis, при вводе 100 000 токенов в Gemma 4 31B, Groq 3 LPX достиг скорости 3431 выходного токена в секунду. При тех же условиях самый быстрый доступный на рынке публичный API обеспечивал около 870 токенов в секунду — Groq 3 LPX почти в четыре раза быстрее. При реальном развертывании Rubin GPU выполняет более тяжелые вычисления, а Groq 3 LPX специализируется на повышении скорости генерации токенов. Для Coding Agent это позволяет значительно сократить время ожидания «вывода» модели при последовательных десятках или сотнях вызовов. Nebius станет первым облачным провайдером ИИ, внедрившим Groq 3 LPX. Еще интереснее то, что сама Groq также стала одним из первых пользователей и будет развертывать систему вместе с Dell. Прошлым годом она лицензировала технологию NVIDIA, а теперь сама начинает использовать «Groq», созданную на основе технологий NVIDIA.

Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации. Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.