Giao dịch 2 tỷ USD của NVIDIA với Groq mang lại kết quả khi các chip Groq 3 LPX bắt đầu sản xuất hàng loạt

Động sát Beating AI,英伟达 Groq 3 LPX đã bước vào sản xuất hàng loạt quy mô lớn. Vào tháng 12 năm ngoái,英伟达 đã chi khoảng 20 tỷ USD để mua bản quyền công nghệ Groq và thu hút toàn bộ đội ngũ cốt lõi, bao gồm người sáng lập Jonathan Ross. Sau 8 tháng, sản phẩm phần cứng đầu tiên của giao dịch này chính thức ra đời. Groq 3 LPX là một hệ thống được thiết kế đặc biệt để tăng tốc suy luận mô hình lớn, sử dụng 256 chip Groq 3 LPU. Trong bài kiểm tra của Artificial Analysis, khi Gemma 4 31B nhận đầu vào 100.000 token, Groq 3 LPX đạt tốc độ 3.431 token đầu ra mỗi giây. Trong cùng bài kiểm tra này, API nhanh nhất có thể truy cập công khai trên thị trường lúc đó chỉ đạt khoảng 870 token/giây, tức Groq 3 LPX nhanh gần 4 lần. Trong triển khai thực tế, Rubin GPU đảm nhận các phép tính nặng hơn, trong khi Groq 3 LPX chuyên biệt tăng tốc độ tạo token. Đối với Coding Agent, khi liên tục gọi mô hình hàng chục, hàng trăm lần, thời gian chờ mô hình “phát ra” câu trả lời sẽ được giảm rõ rệt. Nebius sẽ trở thành nhà cung cấp đám mây AI đầu tiên áp dụng Groq 3 LPX. Điều thú vị hơn là chính Groq cũng là một trong những người dùng đầu tiên, và sẽ cùng Dell triển khai. Năm ngoái, họ cấp bản quyền công nghệ cho英伟达, năm nay lại bắt đầu sử dụng “Groq” do英伟达 tạo ra.