Nvidia офіційно оголосила про масове виробництво системи Groq 3 LPX у стійці — ця апаратна платформа, отримана в результаті поглинання, тепер офіційно виходить на ринок і стає найпопулярнішою темою в світі AI-апаратного забезпечення, зміщуючи фокус галузевої конкуренції з навчання великих моделей на низькочасовій інференс-здатності для сценаріїв Agent. Ця апаратна система належить до технологічного стеку Vera Rubin і позиціонується як рішення з надзвичайно високою швидкістю виведення токенів: у сценаріях з довгим контекстом до 100 000 токенів вона забезпечує виведення тисяч токенів на секунду. За офіційними тестовими даними, у певних випадках вартість обчислень може знизитися до 35 разів порівняно з попереднім поколінням. Це рішення спеціально розроблене для AI-агентів та автоматизованого виконання програм, де критично важлива швидкість відповіді. Раніше багато проектів Agent не мали комерційного потенціалу, оскільки висока затримка інференсу змушувала користувачів довго чекати завершення багатокрокових завдань, що робило досвід непрактичним. Першим хмарним провайдером, який впровадив цю стійку, стала одна з провідних компаній. У майбутньому хмарні сервіси зможуть пропонувати елітні API-пакети з низькою затримкою для корпоративних клієнтів, яким критично важлива швидкість. Але це також перепише бізнес-модель хмарного AI: майбутнє AI-сервісів буде визначатися не лише розміром параметрів моделей — продуктивність апаратного інференсу стане ключовим конкурентним перевагою для кожного хмарного провайдера. Масове виробництво також передає важливий сигнал галузі: наступна битва в AI вже не буде про створення моделей з ще більшими параметрами, а про те, як ефективніше та швидше запускати вже дуже потужні моделі. Бар’єри комерціалізації Agent поступово знищуються апаратними розробками — і скоро ми побачимо, як багато автоматизованих агентних застосунків, які раніше існували лише в лабораторних умовах, з’являться у реальних бізнес-середовищах. #Nvidia #AI_апаратне_забезпечення #Agent