O acordo de US$ 2 bilhões da NVIDIA com a Groq produz resultados à medida que os chips Groq 3 LPX entram em produção em massa

Notícia rápida da Beating AI: o Groq 3 LPX da NVIDIA já entrou em produção em larga escala. Em dezembro do ano passado, a NVIDIA adquiriu a licença da tecnologia da Groq por cerca de US$ 20 bilhões e recrutou a equipe-chave, incluindo o fundador Jonathan Ross. Oito meses depois, o primeiro hardware resultante dessa transação foi lançado oficialmente. O Groq 3 LPX é um sistema projetado especificamente para acelerar a inferência de grandes modelos, contendo 256 chips Groq 3 LPU. Nos testes da Artificial Analysis, após a entrada de 100.000 tokens no Gemma 4 31B, o Groq 3 LPX alcançou 3.431 tokens de saída por segundo. No mesmo teste, a API mais rápida disponível publicamente no mercado na época conseguia apenas cerca de 870 tokens, ou seja, o Groq 3 LPX é quase quatro vezes mais rápido. Em implementações reais, os GPUs Rubin lidam com cálculos mais pesados, enquanto o Groq 3 LPX se concentra exclusivamente em aumentar a velocidade de geração de tokens. Para agentes de codificação, que realizam dezenas ou centenas de chamadas consecutivas ao modelo, isso reduz significativamente o tempo de espera pela "saída" do modelo. A Nebius será a primeira provedora de nuvem AI a adotar o Groq 3 LPX. Mais interessante ainda: a própria Groq também se tornou uma das primeiras usuárias e planeja implantá-lo em conjunto com a Dell. No ano passado, licenciou sua tecnologia para a NVIDIA; este ano, está começando a usar o "Groq" feito pela NVIDIA.