Kesepakatan $2 miliar NVIDIA dengan Groq membuahkan hasil karena chip Groq 3 LPX memasuki produksi massal

Berita Cepat Beating AI: NVIDIA Groq 3 LPX telah memasuki produksi massal penuh. Pada Desember tahun lalu, NVIDIA menghabiskan sekitar $20 miliar untuk mendapatkan lisensi teknologi Groq dan merekrut tim inti termasuk pendiri Jonathan Ross. Delapan bulan kemudian, perangkat keras pertama dari transaksi ini resmi diluncurkan. Groq 3 LPX adalah sistem yang dirancang khusus untuk mempercepat inferensi model besar, yang menggunakan 256 chip Groq 3 LPU. Dalam pengujian Artificial Analysis, setelah memasukkan 100.000 token ke Gemma 4 31B, Groq 3 LPX mencapai kecepatan 3.431 token keluaran per detik. Dalam pengujian yang sama, API tercepat yang tersedia secara publik saat itu hanya mampu menghasilkan sekitar 870 token, artinya Groq 3 LPX hampir empat kali lebih cepat. Dalam penerapan nyata, Rubin GPU menangani perhitungan yang lebih berat, sementara Groq 3 LPX secara khusus meningkatkan kecepatan generasi token. Bagi Coding Agent, ketika melakukan panggilan berulang puluhan hingga ratusan kali ke model, waktu tunggu saat model "mengeluarkan" jawaban dapat secara signifikan berkurang. Nebius akan menjadi penyedia cloud AI pertama yang mengadopsi Groq 3 LPX. Lebih menarik lagi, Groq sendiri juga menjadi salah satu pengguna awal, dan akan bekerja sama dengan Dell untuk penerapannya. Tahun lalu, mereka memberikan lisensi teknologi kepada NVIDIA, dan tahun ini justru mulai menggunakan "Groq" yang dibuat oleh NVIDIA.