Chip AI tăng tốc, trung tâm dữ liệu chuyển sang mạng quang

Ngành công nghiệp trí tuệ nhân tạo đã dành nhiều năm để làm cho các bộ xử lý nhanh hơn. Bây giờ, một số khoản đầu tư cơ sở hạ tầng lớn nhất của nó đang được hướng tới một thứ ít hấp dẫn hơn nhiều: thay thế các kết nối điện bằng ánh sáng.

Vấn đề đang trở nên rõ ràng trong các trung tâm dữ liệu AI khổng lồ, nơi hàng ngàn GPU phải liên tục trao đổi thông tin. Ngay cả bộ xử lý mạnh nhất cũng có thể dành thời gian chờ đợi nếu mạng kết nối nó với các chip khác không thể truyền dữ liệu đủ nhanh.

Hậu quả tài chính đã rõ ràng. Nhà sản xuất công nghệ quang học Coherent báo cáo 2,37 tỷ USD doanh thu quý vào ngày 4 tháng 11, tăng 50% so với cùng kỳ năm trước, khi nhu cầu về thiết bị mạng tốc độ cao tăng mạnh.

Các trung tâm dữ liệu truyền thống được thiết kế xung quanh các máy chủ thực hiện các nhiệm vụ tương đối độc lập. Dây đồng hoạt động tốt vì các kết nối tương đối ngắn và yêu cầu mạng có thể quản lý được.

Việc huấn luyện AI thay đổi phương trình đó.

Các cụm AI hiện đại kết nối hàng nghìn GPU cùng hoạt động trên các mô hình khổng lồ. Những bộ xử lý này phải trao đổi dữ liệu, đồng bộ hóa các phép tính và chuyển kết quả trung gian giữa các kệ.

Khi tốc độ xử lý tăng lên, việc truyền thông trở nên ngày càng quan trọng. Sự chậm trễ trong việc chuyển giao thông tin có thể khiến phần cứng máy tính đắt tiền bị sử dụng không hiệu quả.

Đồng vẫn duy trì hiệu quả trong khoảng cách ngắn, nhưng tốc độ truyền tải cao hơn và các kết nối dài hơn làm gia tăng các thách thức về tổn thất tín hiệu và tiêu thụ điện năng.

Công nghệ quang học giải quyết một số hạn chế đó bằng cách chuyển đổi tín hiệu điện thành ánh sáng và truyền thông tin qua sợi quang.

Nvidia đã giải thích rằng các cụm AI lớn hơn ngày càng yêu cầu các kết nối quang giữa các máy chủ và các bộ chuyển mạch mạng, đặc biệt khi khoảng cách mạng mở rộng.

Thử thách này thêm một chiều mới vào tình trạng thiếu hụt điện do AI, vì thiết bị mạng cũng góp phần làm tăng tổng mức tiêu thụ năng lượng.

Kết quả mới nhất của Coherent cho thấy cách quá trình chuyển đổi hạ tầng đang tạo ra những cơ hội vượt ngoài Nvidia.

Phân đoạn Trung tâm Dữ liệu & Truyền thông của công ty tạo ra doanh thu quý khoảng 1,95 tỷ USD, tăng từ 1,09 tỷ USD cùng kỳ năm trước.

Điều đó tương đương với mức tăng khoảng 79% và chiếm khoảng 82% tổng doanh số quý của công ty.

Đoạn này bao gồm các sản phẩm ngoài kết nối quang cho trung tâm dữ liệu AI, do đó con số này không nên được hiểu hoàn toàn là doanh thu mạng AI.

Tuy nhiên, sự tăng trưởng này giúp giải thích lý do tại sao các công ty bán dẫn đang tiến hành các thương vụ mua lại mạng quang học để đảm bảo công nghệ cần thiết cho các hệ thống máy tính trong tương lai.

Coherent cũng kỳ vọng tăng trưởng doanh thu giả định năm tài chính 2027 sẽ vượt quá 60%, mặc dù đây vẫn là hướng dẫn của ban quản lý chứ không phải hiệu suất đảm bảo.

Sự chuyển đổi này tạo ra một cân nhắc đầu tư mới: cải thiện hiệu suất GPU là không đủ nếu mạng không thể theo kịp.

Các công ty xây dựng hạ tầng AI phải cân bằng chi phí bộ xử lý với chi tiêu cho mạng, làm mát và điện năng.

Điều này giúp giải thích tại sao chi tiêu vốn về AI ngày càng mang lại lợi ích cho các nhà cung cấp thiết bị ngoài các nhà sản xuất chip.

Công nghệ quang học cũng có thể cải thiện hiệu suất năng lượng trong một số triển khai, giảm lượng điện cần thiết để truyền tải thông tin qua các cụm máy tính lớn.

Tuy nhiên, các liên kết quang học không phải lúc nào cũng vượt trội hơn. Đồng vẫn hấp dẫn cho các kết nối ngắn do chi phí thấp, sự đơn giản và hiệu suất đã được chứng minh.

Các hệ thống quang học mới cũng làm tăng độ phức tạp trong sản xuất, chi phí linh kiện và các yếu tố về độ tin cậy.

Đối với các công ty tài trợ cho cuộc bùng nổ hạ tầng AI, những sự đánh đổi này rất quan trọng vì mỗi khoản đầu tư thêm vào mạng lưới cuối cùng đều phải tạo ra đủ giá trị kinh tế.