NVIDIA Mengumumkan Penghasilan Penuh Rak Groq 3 LPX untuk Penyebaran Nebius

ChainCatcher melaporkan, pada hari Senin waktu setempat, Direktur Senior NVIDIA, Dion Harris, mengumumkan bahwa rak Groq 3 LPX kini memasuki tahap produksi massal penuh dan akan dideploy di pusat data penyedia awan baru Nebius, dengan perkiraan peluncuran akhir tahun ini. Langkah ini menandai komersialisasi resmi teknologi yang diperoleh NVIDIA dari kesepakatan lisensi teknologi senilai sekitar US$20 miliar dengan Groq pada Desember tahun lalu. Beberapa staf inti Groq telah bergabung dengan NVIDIA, dengan pendiri Jonathan Ross menjabat sebagai Arsitek Perangkat Lunak Utama NVIDIA. NVIDIA sedang mempercepat produksi chip Groq dan menyediakan produk kepada pelanggan, menekankan pentingnya inferensi latensi rendah. Groq 3 LPX, yang diluncurkan pada Maret tahun ini, adalah akselerator inferensi untuk platform Vera Rubin, yang mengintegrasikan 500 MB SRAM berkecepatan tinggi langsung di atas die chip untuk mengurangi hambatan memori. Setiap rak LPX dapat menggabungkan 256 chip Groq 3; NVIDIA mengutip pengujian benchmark yang menyatakan chip ini mampu memproses 3.400 token per detik; chip ini diproduksi oleh Samsung. Harris menyatakan bahwa chip latensi rendah bukan pengganti GPU, melainkan dirancang untuk menggunakan prosesor yang tepat sesuai tahapan beban kerja, memungkinkan penyedia awan menawarkan paket berlangganan dengan harga lebih tinggi kepada pelanggan yang sensitif terhadap latensi. CEO NVIDIA, Jensen Huang, berencana mengalokasikan sekitar seperempat ruang pusat data untuk aplikasi pemrograman kepada chip Groq, sementara sisanya menggunakan sistem Vera Rubin, dengan perkiraan penjualan kumulatif Blackwell dan Vera Rubin mencapai US$1 triliun pada tahun 2027.