Câu trả lời của Nvidia đối với tình trạng ùn tắc lưu lượng trong các trung tâm dữ liệu AI là Spectrum-X Ethernet, một kiến trúc mạng kết hợp định tuyến thích ứng được tăng tốc phần cứng, kiểm soát tắc nghẽn nhắm mục tiêu và cân bằng tải theo mặt phẳng dựa trên NIC để duy trì việc truyền dữ liệu hiệu quả qua các mạng GPU khổng lồ.
Sự cải thiện hiệu suất được tuyên bố là đáng kể: Nvidia cho biết Spectrum-X mang lại tốc độ thông lượng mạng lên đến 1,6 lần so với các giải pháp Ethernet thông thường. Các chỉ số hoàn thành công việc cải thiện từ 1,3 đến 1,6 lần tùy theo cấu hình.
Tốc độ chuyển đổi dự phòng là nơi các con số trở nên ấn tượng. Các hệ thống dựa trên Ethernet truyền thống mất khoảng 1,08 giây để phục hồi khi một mặt phẳng mạng bị lỗi. Spectrum-X giảm thời gian này xuống còn khoảng 2,68 miligiây, tức là giảm hơn 99%. Nvidia cũng đã chứng minh rằng Spectrum-X duy trì khoảng 90% khả năng duy trì băng thông trong các cấu hình tám mặt phẳng, ngay cả khi một mặt phẳng bị tắt.
Scale-In và cột trụ thứ năm
Tại hội nghị Hot Chips vào tháng 8 năm 2026, Nvidia đã giới thiệu một tính năng gọi là Scale-In, mô tả nó như là cột trụ thứ năm của mạng AI. Scale-In giải quyết lưu lượng bắc-nam bằng cách sử dụng các đơn vị xử lý dữ liệu BlueField-4 kết hợp với phần mềm DOCA để xử lý các nhiệm vụ về bảo mật, lưu trữ và quan sát, giải phóng chu kỳ xử lý từ các CPU chủ.
Kiến trúc đa tầng mà Nvidia tiết lộ tại Hot Chips có thể mở rộng lên hơn 512.000 điểm cuối trong cấu hình hai tầng, với lộ trình hướng tới các cụm quy mô triệu GPU. Hỗ trợ quang học silicon cho các triển khai siêu lớn này nhắm đến nửa sau năm 2026. Sự cô lập hiệu năng giữa các tầng là nguyên tắc thiết kế cốt lõi, được thực thi ở cấp phần cứng.
Tại sao điều này lại quan trọng vượt ra ngoài bảng thông số kỹ thuật
Vera Rubin, nền tảng của Nvidia nhấn mạnh hiệu quả năng lượng và độ bền trong các cụm GPU lớn, nằm ở trung tâm chiến lược toàn bộ hệ thống của Nvidia, bao gồm chip, mạng lưới, phần mềm và fabric.
Bối cảnh cạnh tranh bao gồm InfiniBand, mà Nvidia cũng bán thông qua thương vụ mua lại Mellanox, và từng thống trị mạng tính toán hiệu năng cao. Spectrum-X đại diện cho sự đầu tư của Nvidia rằng thị trường AI sẽ chuẩn hóa trên nền tảng dựa trên Ethernet. Các đối thủ như Arista Networks và Broadcom cạnh tranh trên thị trường chuyển mạch Ethernet tốc độ cao với các tính năng nhắm đến các tác vụ AI, nhưng không bên nào bán một hệ thống tích hợp dọc kéo dài từ GPU đến NIC, DPU và phần mềm quản lý hạ tầng.