IT之家 10 tháng 20 tin tức, vào ngày 19 tháng 10 theo giờ địa phương, Amazon công bố ra mắt công cụ mã nguồn mở TorchNeuron, giúp mã PyTorch do nhà phát triển viết có thể chạy trực tiếp trên chip Trainium do Amazon tự phát triển, chỉ cần thay đổi cấu hình một lần, không cần viết lại.
IT之家获悉, TorchNeuron sẽ chính thức được phát hành dưới giấy phép mã nguồn mở tại hội nghị PyTorch Bắc Mỹ tổ chức tại San Jose, California vào ngày 20 tháng 10 theo giờ địa phương.
PyTorch là một khung mã nguồn mở do Meta dẫn dắt và được hầu hết các nhà phát triển trí tuệ nhân tạo sử dụng. NVIDIA đã đầu tư hơn một thập kỷ để phát triển công cụ CUDA, cho phép mã PyTorch chạy hiệu quả trên các chip của NVIDIA.
Theo báo cáo, các kỹ sư của Amazon đã chạy cùng một script huấn luyện AI trên cả chip truyền thống và chip Trainium. Sự khác biệt duy nhất nằm ở tham số cấu hình trong mã xác định loại chip được sử dụng. Kết quả cho thấy, mô hình AI học được nội dung hoàn toàn giống nhau và tốc độ học cũng như nhau trong cả hai môi trường. Điều này có nghĩa là các công cụ mà nhà phát triển từng sử dụng để kiểm thử, gỡ lỗi và mở rộng mô hình AI có thể được sử dụng trực tiếp trên Trainium mà không cần bất kỳ chỉnh sửa nào.
Amazon cho rằng TorchNeuron mang đến cho ngành trí tuệ nhân tạo một yếu tố then chốt đã thiếu vắng lâu dài: sự lựa chọn thực sự khả thi. Khi các nhà phát triển có thể tự do chuyển đổi giữa các chip mà không phải trả thêm chi phí, các nhà sản xuất chip buộc phải cạnh tranh bằng cách cung cấp sản phẩm hấp dẫn hơn để thu hút các nhà phát triển; đồng thời, các nhà phát triển cũng được hưởng lợi thông qua việc giảm chi phí và tăng tốc độ cải tiến.
Ngoài ra, Amazon đang tích cực tham gia vào phát triển upstream của PyTorch, hợp tác với cộng đồng PyTorch để loại bỏ những đoạn mã liên kết khung này với các chip cụ thể. Mục tiêu của họ là làm cho PyTorch trở nên “độc lập với phần cứng” hơn đối với toàn bộ cộng đồng nhà phát triển, chứ không chỉ phục vụ người dùng Trainium.