Новини Beating AI: NVIDIA Groq 3 LPX перейшов до масового виробництва. У грудні минулого року NVIDIA витратила близько 20 мільярдів доларів США на ліцензію технологій Groq та привабила ключову команду, включаючи засновника Джонатана Росса. Через 8 місяців перший апаратний продукт цієї угоди був офіційно запущений. Groq 3 LPX — це система, спеціалізована на прискоренні інференсу великих моделей, яка використовує 256 чипів Groq 3 LPU. У тестах Artificial Analysis, після введення 100 000 токенів, Gemma 4 31B на Groq 3 LPX досяг швидкості 3431 вихідних токенів на секунду. У той самий час найшвидший публічно доступний API на ринку мав лише близько 870 токенів на секунду — Groq 3 LPX майже в 4 рази швидший. У реальних умовах Rubin GPU виконує більш важкі обчислення, а Groq 3 LPX спеціалізується на підвищенні швидкості генерації токенів. Для Coding Agent це означає значне зменшення часу очікування, коли модель «виводить» відповідь під час десятків або сотень послідовних викликів. Nebius стане першою хмарною AI-платформою, яка впровадить Groq 3 LPX. Ще цікавіше те, що сама Groq також стала одним із перших користувачів і разом із Dell збирається її впровадити. Роком раніше вона передала технології NVIDIA, а зараз почала використовувати «Groq», створений NVIDIA.
Угода NVIDIA на $2 млрд із Groq приносить плоди: чіпи Groq 3 LPX увійшли у масове виробництво
MarsBitПоділитися
Короткий зміст
Новини криптовалют: чіпи NVIDIA Groq 3 LPX увійшли у повномасштабне серійне виробництво. У грудні минулого року компанія придбала технології Groq за 2 мільярди доларів США та залучила ключовий персонал, включаючи засновника Джонатана Росса. Через вісім місяців було запущено перший продукт. Система Groq 3 LPX, створена для інференсу великих моделей, використовує 256 чипів Groq 3 LPU. У тестах вона досягла 3 431 вихідних токенів за секунду для Gemma 2 31B після 100 000 вхідних токенів — майже в чотири рази швидше, ніж у найкращого публічного API. Nebius стане першим провайдером хмарних AI-рішень, який використовуватиме Groq 3 LPX, а також Groq і Dell планують її застосування. Ця новина про криптовалюту означає важливий крок у прискоренні AI.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.