Nagbunga ang $2 bilyong deal ni NVIDIA sa Groq dahil sa pagpasok ng Groq 3 LPX chips sa mass production

Ang Beating AI News Flash ay naglalabas na ang NVIDIA Groq 3 LPX ay nasa kompletong mass production. Noong Disyembre ng nakaraang taon, ang NVIDIA ay naglabas ng halos $20 bilyon para makakuha ng lisensya sa teknolohiya ng Groq at mag-recruit sa core team tulad ng founder na si Jonathan Ross. Oktong buwan pagkatapos, ang unang hardware mula sa transaksyon ay naging totoo na. Ang Groq 3 LPX ay isang sistema na espesyal na disenyo para mabilisin ang inference ng malalaking modelo, at naglalaman ng 256 piraso ng Groq 3 LPU chip. Sa pagsusuri ng Artificial Analysis, pagkatapos mag-input ng 100,000 token sa Gemma 4 31B, ang Groq 3 LPX ay nakamit ang bilis na 3,431 output token bawat segundo. Sa parehong pagsusuri, ang pinakamabilis na API na available sa merkado ay mayroon lamang halos 870, kaya ang Groq 3 LPX ay halos 4 beses na mas mabilis. Sa praktikal na deployment, ang Rubin GPU ay nagsisilbing responsable sa mas malalaking computation, habang ang Groq 3 LPX ay espesyal na nagpapabilis sa paggawa ng token. Para sa Coding Agent, kapag mayroong magkakasunod na ilang dosen o higit pang pagtawag sa modelo, malinaw na nababawasan ang oras ng paghihintay habang hinahintay ng modelo na “maglabas” ng mga token. Ang Nebius ay magiging unang AI cloud provider na gagamit ng Groq 3 LPX. Mas kakaibang bagay ay ang Groq mismo ay naging isa sa mga unang gumagamit, at magkakasama pa sila sa deployment kasama ang Dell. Noong nakaraang taon, ibinigay nila ang lisensya sa NVIDIA, at ngayon, sila mismo ay gumagamit ng “Groq” na gawa ng NVIDIA.