Nền tảng đám mây Azure của Microsoft vừa công bố kết quả huấn luyện AI nhanh nhất ở quy mô lớn nhất được báo cáo, được hỗ trợ bởi sự hợp tác sâu sắc hơn với Nvidia. Thành tựu này, được công bố vào ngày 18 tháng 3 năm 2025, tập trung vào hiệu suất kỷ lục trong các bài kiểm tra MLPerf Training v4.1, tiêu chuẩn độc lập được công nhận rộng rãi để đo lường hiệu suất phần cứng học máy.
Cấu hình đằng sau các kết quả: 512 GPU Nvidia H200 hoạt động phối hợp, mang lại cải thiện hiệu năng 28% so với các thiết lập trước đây dựa trên GPU H100.
Những gì các tiêu chuẩn thực sự cho thấy
Trong các bài kiểm tra năm 2023 trước đó, Azure đã chứng minh có thể huấn luyện mô hình GPT-3 với 175 tỷ tham số trên 10.752 GPU H100 trong khoảng 4 phút. Cấu hình mới dựa trên H200 xây dựng trên nền tảng đó với hiệu suất trên mỗi GPU được cải thiện đáng kể, giảm lượng phần cứng tổng thể cần thiết để đạt tốc độ huấn luyện tương đương.
Toàn bộ hệ thống phía sau những kết quả này vượt xa việc chỉ thay thế các GPU cũ bằng GPU mới hơn. Microsoft đã nêu bật các đổi mới tích hợp trên phần cứng, mạng và phần mềm. Hệ thống sử dụng mạng Nvidia Quantum InfiniBand, xử lý nhu cầu chuyển dữ liệu khổng lồ giữa các GPU trong quá trình huấn luyện phân tán. Nó cũng tích hợp các vi dịch vụ của Nvidia cùng các dịch vụ AI riêng của Azure, bao gồm nền tảng AI Foundry.
Ai đã và đang sử dụng điều này và tiếp theo sẽ là gì
Black Forest Labs, công ty AI nổi tiếng với các mô hình tạo hình ảnh, đã đang sử dụng các máy ảo GB200 mới của Azure cho các dự án của mình.
Dòng GPU hỗ trợ các tính năng này trải dài qua nhiều thế hệ. Azure hiện cung cấp các cấu hình được xây dựng dựa trên các dòng GPU H200, H100 và GB200. Vào cuối năm 2025, Microsoft dự kiến tích hợp các GPU Blackwell Ultra của Nvidia, được thiết kế đặc biệt để nâng cao hiệu suất trong các tác vụ AI suy luận và đa phương tiện.