IBM đã cung cấp các hệ thống GPU HGX B300 của Nvidia trên IBM Cloud, mang đến cho các ngành công nghiệp được quản lý quyền truy cập vào một trong những phần cứng đào tạo AI mạnh mẽ nhất trên thị trường thông qua môi trường đám mây được quản lý. Các hệ thống này đã chính thức hoạt động vào khoảng ngày 29 tháng Tư, đánh dấu bước tiến mới trong mối quan hệ hợp tác mở rộng giữa hai công ty, lần đầu tiên được công bố tại GTC 2026 vào tháng Ba.
Bên trong hộp là gì
Mỗi hệ thống HGX B300 tích hợp tám GPU Blackwell Ultra vào một nút mạng. Các con số tính toán thô là đáng kinh ngạc: lên đến 144 PFLOPS ở độ chính xác FP4 và 72 PFLOPS ở FP8. Mỗi hệ thống cung cấp hơn 2 TB bộ nhớ HBM3e chia sẻ, điều này cực kỳ quan trọng đối với việc huấn luyện mô hình ngôn ngữ lớn, nơi toàn bộ mô hình cần vừa trọn trong bộ nhớ GPU để tránh hiện tượng trao đổi dữ liệu làm giảm hiệu suất. Mặt mạng hoạt động ở tốc độ 800 Gb/s mỗi GPU thông qua các bộ điều hợp ConnectX-8 của Nvidia, đảm bảo rằng các tác vụ huấn luyện đa nút không bị nghẽn tại lớp kết nối.
Góc độ tuân thủ
Việc triển khai HGX B300 tích hợp với Red Hat OpenShift và nền tảng watsonx của IBM, tạo thành một hệ thống đầy đủ cho các quy trình AI được quản lý, như IBM mô tả. OpenShift xử lý việc phối hợp container, cho phép các tải công việc di chuyển giữa môi trường nội bộ và đám mây. Watsonx cung cấp các công cụ phát triển AI và lớp quản trị. Cùng nhau, chúng cho phép các doanh nghiệp huấn luyện và triển khai mô hình trong môi trường lai đám mây, nơi dữ liệu nhạy cảm vẫn nằm trong các ranh giới được phê duyệt.
Thời gian và triển khai
Ban đầu, khả năng sẵn có nhắm đến các khách hàng và khu vực được chọn, với kế hoạch mở rộng rộng rãi hơn dự kiến sẽ được thực hiện sau. IBM cũng đã cho biết việc truy cập đội máy chủ không máy chủ cho các hệ thống HGX B300 dự kiến vào tháng 5 năm 2026, sẽ cho phép khách hàng sử dụng tính toán GPU mà không cần quản lý cơ sở hạ tầng nền tảng.
Các hệ thống HGX B300 bổ sung cho các instance H200 hiện có của IBM Cloud, cung cấp cấp độ hiệu suất thấp hơn cho các tác vụ không yêu cầu phần cứng cấp Blackwell Ultra.