NVIDIA Blackwell vượt trội H200 tới 20 lần trong bài kiểm tra phần cứng Agent

ME AI tin tức, theo giám sát của Beating, tổ chức đánh giá Artificial Analysis đã công bố tiêu chuẩn hiệu năng phần cứng cho tác nhân (Agent) đầu tiên trong ngành, AA-AgentPerf. Đánh giá truyền thống giống như một cuộc "chạy nước rút" với câu hỏi đơn lẻ, chỉ đo tốc độ phản hồi; trong khi nhiệm vụ tác nhân giống như "đua tiếp sức", AI cần tự tách nhỏ mục tiêu và luân chuyển liên tục giữa việc đọc ghi tệp, sửa mã nguồn và chạy kiểm thử. Sự tương tác thường xuyên gây áp lực lớn lên dung lượng bộ nhớ và hiệu suất điều phối của máy chủ. Tiêu chuẩn này sử dụng lại các quỹ đạo lập trình thực tế, lấy "số lượng tác nhân đồng thời được hỗ trợ trên mỗi megawatt công suất" làm chỉ số hiệu năng năng lượng cốt lõi, trực tiếp giải quyết các điểm nghẽn về điện và vốn trong trung tâm dữ liệu. Trong đợt thử nghiệm đầu tiên, mô hình mã nguồn mở 1,6 nghìn tỷ tham số DeepSeek V4 Pro đã được chạy. Kết quả cho thấy hệ thống tủ làm mát bằng chất lỏng Blackwell GB300 NVL72 của NVIDIA có thể hỗ trợ 61.400 tác nhân đồng thời trên mỗi megawatt công suất, trong khi thế hệ trước Hopper HGX H200 chỉ hỗ trợ được 2.600 tác nhân — hiệu năng năng lượng tăng hơn 20 lần. Khả năng đồng thời trên mỗi card đồ họa cũng tăng 41 lần. Điều này cho phép trung tâm dữ liệu xử lý gấp 20 lần số lượng tác nhân đồng thời với cùng ngân sách điện, giảm đáng kể chi phí triển khai các ứng dụng như lập trình tự động và dịch vụ khách hàng. Trong các kết quả đầu tiên, AMD Instinct MI355X tạm thời tụt hậu. Tổ chức đánh giá chỉ ra rằng cả AMD và H200 đều sử dụng khung mã nguồn mở vLLM phổ thông mà chưa được tối ưu sâu; với sự phát triển của các khung dịch vụ và bộ nhân tính toán được tối ưu hóa phù hợp, hiệu suất của AMD vẫn còn tiềm năng cải thiện. Hiện tại, các nhà cung cấp suy luận như Together AI đã triển khai sớm DeepSeek V4 Pro trên Blackwell để cung cấp hỗ trợ suy luận thời gian thực cho công cụ lập trình tác nhân Cursor. (Nguồn: BlockBeats)