Sắp xếp: Jinshi Data
NVIDIA (NVDA.O) đã ra mắt nền tảng NVIDIA DSX tại sự kiện NVIDIA GTC Taipei được tổ chức tại Đài Bắc, Đài Loan, mở rộng thêm phạm vi kinh doanh sang lĩnh vực cơ sở hạ tầng nhà máy AI.
Khác với quá khứ tập trung vào việc bán GPU, DSX nhằm cung cấp cho doanh nghiệp giải pháp nhà máy AI toàn diện từ thiết kế, mô phỏng, triển khai đến vận hành và quản lý.
Khi quy mô mô hình AI không ngừng mở rộng, thách thức đối với các trung tâm dữ liệu không còn chỉ là hiệu suất chip, mà còn bao gồm nguồn cung điện, khả năng tản nhiệt, điều phối tài nguyên và hiệu quả vận hành tổng thể. NVIDIA cho rằng, chỉ số cạnh tranh then chốt trong ngành AI tương lai sẽ dần chuyển từ hiệu suất của từng chip sang hiệu quả cơ sở hạ tầng tổng thể, tức là làm thế nào để sản xuất nhiều năng lực tính toán và dịch vụ trí tuệ hơn trong điều kiện giới hạn về điện năng, không gian và tài nguyên.
Để làm điều này, nền tảng DSX tích hợp chip, hệ thống, phần mềm, kiến trúc tham chiếu của NVIDIA và công nghệ đối tác, bao phủ toàn bộ vòng đời xây dựng và vận hành nhà máy AI. Nền tảng giúp khách hàng tăng tốc độ triển khai, độ tin cậy và hiệu quả vận hành, đồng thời giảm chi phí tạo Token trong quá trình suy luận AI thông qua việc thống nhất các công nghệ như tính toán, phần mềm và cơ sở hạ tầng.
Huang Renxun cho biết:
Chúng tôi không chỉ đang cung cấp chip—mà còn cung cấp cho mỗi người xây dựng cơ sở hạ tầng toàn bộ hệ thống phương pháp để xây dựng nhà máy AI. Với nền tảng DSX, bạn có thể mô phỏng toàn bộ nhà máy mà không tốn một xu nào, xác minh hiệu suất trước khi lắp đặt kệ đầu tiên, và vận hành với độ tin cậy cần thiết cho AI cấp sản xuất.
Hệ thống phần mềm được phát hành lần này chủ yếu bao gồm DSX MaxLPS và DSX OS.
Trong đó, DSX MaxLPS sử dụng công nghệ làm mát bằng chất lỏng ở 45 độ C và tối ưu hóa công suất trên từng kệ để tăng sản lượng Token trên mỗi megawatt điện. NVIDIA cho biết công nghệ này cho phép triển khai thêm tối đa 40% GPU với tác động rất nhỏ đến hiệu năng, từ đó giảm chi phí tính toán thêm nữa trong ngân sách điện cố định.
DSX OS là một nền tảng phần mềm mã nguồn mở hướng đến vận hành nhà máy AI, hỗ trợ các chức năng như quản lý vòng đời, lập lịch thông minh, tự động hóa sức khỏe, vận hành đa thuê bao và các dịch vụ nền tảng. NVIDIA cũng sẽ mở nguồn các thư viện phần mềm mô-đun, API, thiết kế tham chiếu và nền tảng tính toán tăng tốc để xây dựng kiến trúc phần mềm thống nhất.
Ngoài phần mềm cốt lõi, DSX còn tích hợp nhiều năng lực hiện có. DSX Reference Design cung cấp kiến trúc tham chiếu bao gồm các hệ thống tính toán, mạng, lưu trữ, cấp điện và làm mát; DSX Sim hỗ trợ mô phỏng và tối ưu hóa số song sinh từ giai đoạn lập kế hoạch đến vận hành; DSX Flex có thể điều chỉnh động tải công việc dựa trên tải lưới điện và biến động giá điện; DSX Exchange cho phép đồng bộ hóa dữ liệu giữa các hệ thống tính toán, mạng, năng lượng và làm mát.
Về mặt ứng dụng thực tế, các nhà cung cấp dịch vụ đám mây như CoreWeave, Crusoe, IREN và Lambda đã triển khai các thành phần cốt lõi của DSX để tăng hiệu suất sử dụng GPU và rút ngắn thời gian ra mắt dịch vụ AI trên đám mây.
Hệ sinh thái phần cứng cũng đang được mở rộng đồng bộ. Các nhà sản xuất như Dell Technologies (DELL.N), Hewlett Packard Enterprise (HPE.N), Lenovo (0992.HK), Supermicro (SMCI.O), ASUS, Foxconn, Gigabyte, Pegatron và Quanta Cloud Technology đang phát triển các hệ thống sẵn sàng cho NVIDIA DSX, giúp khách hàng xây dựng nhà máy AI toàn diện.
Meanwhile, DSX Flex has launched commercial pilot projects with Emerald AI and Silicon Valley Power to validate the AI factory's ability to dynamically adjust power consumption based on grid demand.
Ở cấp độ chiến lược, DSX đánh dấu sự chuyển đổi liên tục của NVIDIA từ nhà cung cấp chip AI sang nhà cung cấp nền tảng hạ tầng AI. Bằng cách tích hợp chip, phần mềm, kiến trúc trung tâm dữ liệu, quản lý vận hành và điều phối năng lượng vào một hệ thống thống nhất, NVIDIA mong muốn thiết lập các tiêu chuẩn ngành bao trùm toàn bộ vòng đời của nhà máy AI, đồng thời củng cố thêm vị thế dẫn đầu của mình trên thị trường hạ tầng AI toàn cầu.