El acuerdo de $2 mil millones de NVIDIA con Groq da sus frutos mientras los chips Groq 3 LPX entran en producción masiva

Noticias rápidas de Beating AI: NVIDIA Groq 3 LPX ha ingresado a la producción en masa completa. En diciembre del año pasado, NVIDIA adquirió la licencia de la tecnología de Groq por aproximadamente 20 mil millones de dólares y reclutó al equipo clave, incluido el fundador Jonathan Ross. Ocho meses después, el primer hardware de esta transacción ha llegado finalmente al mercado. Groq 3 LPX es un sistema diseñado específicamente para acelerar la inferencia de modelos grandes, que utiliza 256 chips Groq 3 LPU. En las pruebas de Artificial Analysis, con Gemma 4 31B y una entrada de 100.000 tokens, Groq 3 LPX alcanzó una velocidad de 3.431 tokens de salida por segundo. En la misma prueba, la API más rápida disponible públicamente en ese momento solo logró aproximadamente 870 tokens, lo que significa que Groq 3 LPX es casi cuatro veces más rápido. En implementaciones reales, las GPU Rubin se encargan de los cálculos más intensivos, mientras que Groq 3 LPX se especializa en aumentar la velocidad de generación de tokens. Para los Agentes de Codificación, al realizar decenas o cientos de llamadas consecutivas al modelo, se reduce notablemente el tiempo de espera mientras el modelo "genera palabras". Nebius será el primer proveedor de nube AI en adoptar Groq 3 LPX. Más interesante aún: Groq también se ha convertido en uno de los primeros usuarios, y colaborará con Dell en su implementación. El año pasado, otorgó la licencia de su tecnología a NVIDIA; este año, comienza a usar el "Groq" creado por NVIDIA.