Khi quy mô trung tâm dữ liệu AI tiếp tục mở rộng, cuộc thảo luận về lợi thế cạnh tranh của NVIDIA cũng đang thay đổi. TechCrunch đưa tin rằng trước đây, các nhà đầu tư quan tâm nhiều hơn đến việc GPU có bị các nhà cung cấp đám mây làm giảm giá trị bởi chip tự phát triển hay không, nhưng sau báo cáo tài chính mới nhất, thị trường bắt đầu chuyển sự chú ý sang một câu hỏi khác: Ai có thể vận hành hiệu quả toàn bộ hệ thống AI?
Trọng tâm cạnh tranh chuyển sang hệ thống
Bài viết cho rằng việc triển khai sức mạnh tính toán AI đang hướng tới công suất cao hơn và cụm lớn hơn; chỉ xem xét GPU đã không còn đủ để giải thích bối cảnh cạnh tranh. Càng lớn, trung tâm dữ liệu càng làm phức tạp thêm sự phối hợp giữa dữ liệu, lưu trữ, mạng và tính toán. GPU vẫn là bộ phận cốt lõi, nhưng ngày càng có nhiều yếu tố ngoài GPU quyết định hiệu suất.
Đây cũng là trung tâm của sự thay đổi trong câu chuyện hiện tại của NVIDIA. Dù các nhà cung cấp đám mây lớn như Amazon và Google tiếp tục đẩy mạnh phát triển chip tự nghiên cứu, NVIDIA vẫn đang xây dựng một tổ hợp hạ tầng toàn diện hơn xung quanh GPU. Bài viết tóm tắt điều này như sau: Nếu GPU là động cơ, thì các hệ thống còn lại chính là cả chiếc xe.
Vera Rubin bao phủ nhiều khâu hơn
TechCrunch cho biết NVIDIA đang phát triển kiến trúc Vera Rubin. Kiến trúc này không chỉ bao gồm GPU Rubin, mà còn đi kèm CPU Vera và hệ thống cấp khung dành cho các khâu như lưu trữ, mạng. Bài viết nhận định, ý nghĩa của những sản phẩm này nằm ở chỗ chúng không trực tiếp chịu trách nhiệm tạo token, mà nhằm giảm thiểu tối đa tổn thất hiệu năng ngoài GPU.
Trong đó, Vera CPU được mô tả là một khâu quan trọng trong việc điều phối dữ liệu. Phó chủ tịch công nghệ lưu trữ của NVIDIA, Jason Hardy, cho biết, dung lượng bộ nhớ có thể chứa trong một máy chủ hoặc một nền tảng tính toán đơn lẻ là có hạn, do đó, việc đưa dữ liệu đến GPU vào đúng thời điểm đang trở thành yếu tố then chốt đối với hiệu suất hệ thống.
Dữ liệu trở thành chiến trường mới
Bài viết trích dẫn nhận định của Hardy rằng trong một số thao tác liên quan, hiệu suất tăng tốc từ Vera CPU có thể đạt khoảng 3 lần. Điều này có nghĩa là các tài nguyên phần cứng như bộ nhớ flash có thể được tận dụng hiệu quả hơn, đồng thời các điểm nghẽn hệ thống cũng có cơ hội giảm xuống.
Bài viết cũng nhấn mạnh rằng các vấn đề tương tự không chỉ tồn tại trong hệ thống NVIDIA. Khi giới thiệu chip Jalapeño, OpenAI cũng đã liệt kê việc giảm di chuyển dữ liệu và độ trễ truyền thông là mục tiêu trọng tâm. Tư tưởng của họ là cố gắng giữ toàn bộ tải công việc trong một hệ thống liên kết, nhằm giảm tổn thất do truyền tải giữa các mô-đun gây ra.
Theo TechCrunch, điều này cho thấy cuộc cạnh tranh về cơ sở hạ tầng AI đang bước vào giai đoạn mới. Các doanh nghiệp không còn chỉ so sánh về sức mạnh xử lý của chip, mà còn bao gồm cách dữ liệu lưu thông, cách lưu trữ hỗ trợ và cách mạng lưới tránh tắc nghẽn. Nói cách khác, cấp độ cạnh tranh đang chuyển từ “ai có GPU mạnh hơn” sang “ai có thể vận hành toàn bộ hệ thống hiệu quả hơn”.
Bài viết cho rằng sự thay đổi này không có nghĩa là NVIDIA đã chắc chắn giành chiến thắng. Công ty vẫn phải đối mặt với sự cạnh tranh từ các nhà sản xuất chip khác và các nhà cung cấp dịch vụ đám mây lớn. Tuy nhiên, ở giai đoạn hiện tại, NVIDIA vẫn dẫn đầu về khả năng tích hợp và điều phối hệ thống, đây cũng là lý do quan trọng khiến thị trường đánh giá lại lợi thế AI của họ.