NVIDIA thông báo bắt đầu sản xuất đầy đủ các cụm Groq 3 LPX để triển khai cho Nebius

ChainCatcher tin tức, vào thứ Hai theo giờ địa phương, Giám đốc cấp cao của NVIDIA, Dion Harris, công bố rằng hệ thống Groq 3 LPX đã bước vào giai đoạn sản xuất hàng loạt hoàn toàn và sẽ được triển khai tại trung tâm dữ liệu của nhà cung cấp dịch vụ đám mây mới Nebius, dự kiến ra mắt vào cuối năm nay. Động thái này đánh dấu việc thương mại hóa chính thức công nghệ mà NVIDIA nhận được sau thỏa thuận cấp phép công nghệ trị giá khoảng 20 tỷ USD với Groq vào tháng 12 năm ngoái; nhiều nhân viên cốt lõi của Groq đã gia nhập NVIDIA, với người sáng lập Jonathan Ross đảm nhiệm vị trí Kiến trúc sư phần mềm trưởng của NVIDIA. NVIDIA đang tăng tốc sản xuất chip Groq và cung cấp sản phẩm cho khách hàng, nhấn mạnh tầm quan trọng của suy luận độ trễ thấp. Groq 3 LPX, được phát hành vào tháng 3 năm nay, là bộ tăng tốc suy luận cho nền tảng Vera Rubin, với kiến trúc tích hợp 500 MB SRAM tốc độ cao trên chip để giảm thiểu các điểm nghẽn bộ nhớ. Mỗi hệ thống LPX có thể tích hợp 256 chip Groq 3; NVIDIA trích dẫn các bài kiểm tra hiệu năng cho thấy mỗi giây có thể xử lý 3.400 token; chip này được Samsung sản xuất. Harris cho biết, các chip độ trễ thấp không thay thế GPU, mà nhằm sử dụng bộ xử lý phù hợp cho từng giai đoạn công việc khác nhau, cho phép các nhà cung cấp dịch vụ đám mây cung cấp các gói dịch vụ giá cao hơn cho người dùng nhạy cảm với độ trễ. CEO của NVIDIA, Huang Renxun, kế hoạch phân bổ khoảng một phần tư không gian trung tâm dữ liệu dành cho ứng dụng lập trình cho chip Groq, phần còn lại sử dụng hệ thống Vera Rubin, và dự kiến doanh thu tích lũy của Blackwell và Vera Rubin sẽ đạt 1 nghìn tỷ USD vào năm 2027.