Amazon đã giới thiệu TorchNeuron, một công cụ mã nguồn mở được thiết kế để chạy mã AI dựa trên PyTorch trên các chip Trainium của Amazon với ít thay đổi nhất. Amazon có thể đã tìm ra cách thách thức lợi thế phần mềm của Nvidia bằng cách giảm nhu cầu các nhà phát triển phải viết lại mã. Thông báo về TorchNeuron của Amazon cho biết các nhà phát triển có thể chạy mã PyTorch hiện có trên Trainium chỉ với một thay đổi cấu hình thay vì viết lại toàn bộ ứng dụng.
Lợi thế AI của Nvidia mở rộng vượt ra ngoài các con chip sang CUDA, hệ sinh thái phần mềm mà các nhà phát triển dựa vào để xây dựng và chạy các tác vụ AI. Các nhà phát triển đã dành nhiều năm để xây dựng các quy trình làm việc xung quanh CUDA, tạo ra chi phí chuyển đổi vượt xa hiệu suất phần cứng. Những chi phí này khiến các chip cạnh tranh khó thu hút các tác vụ, ngay cả khi chúng mang lại lợi thế kinh tế hấp dẫn. TorchNeuron nhắm vào thời gian và chi phí kỹ thuật liên quan đến việc điều chỉnh phần mềm cho một nền tảng tính toán khác. PyTorch được sử dụng rộng rãi trong nghiên cứu và phát triển AI. Amazon không cần phải thay thế CUDA ngay lập tức để làm giảm chi phí và thời gian khi thử nghiệm một giải pháp thay thế.
Việc ra mắt này xây dựng trên nỗ lực của Amazon nhằm mở rộng chip tùy chỉnh trong đào tạo và suy luận AI. Các bộ tăng tốc Trainium cho phép Amazon Web Services (AWS) cung cấp năng lực tính toán bằng phần cứng của Amazon thay vì hoàn toàn phụ thuộc vào GPU của Nvidia. Các chip tùy chỉnh của Amazon đã thu hút nhiều khách hàng AI lớn, bao gồm Anthropic, vốn sử dụng Trainium trong cụm máy tính Project Rainier của Anthropic. TorchNeuron có thể giúp Trainium trở nên dễ tiếp cận hơn với nhiều nhà phát triển hơn, những người trước đây sẽ tiếp tục sử dụng Nvidia vì việc chuyển đổi đòi hỏi quá nhiều công sức. Amazon cho biết hơn 30 khách hàng sớm trong các lĩnh vực như robot, AI giọng nói và mô hình thế giới đang sử dụng TorchNeuron. Việc áp dụng rộng rãi hơn có thể giúp AWS cạnh tranh về chi phí tính toán và sự dễ dàng trong việc triển khai các ứng dụng AI.
Lời thông báo này không có nghĩa là lợi thế của Nvidia sắp biến mất. CUDA vẫn là một hệ sinh thái trưởng thành, và Amazon vẫn phải chứng minh được hiệu suất, độ tin cậy và tính kinh tế cạnh tranh của Trainium trên các tải công việc khắt khe. Tuy nhiên, áp lực cạnh tranh có thể gia tăng nếu các nhà phát triển có thể di chuyển các ứng dụng giữa các nền tảng với ít thay đổi hơn. Việc di chuyển dễ dàng sẽ mang lại cho khách hàng đám mây nhiều linh hoạt hơn và có thể củng cố sức mạnh đàm phán của Amazon về chi phí cơ sở hạ tầng AI.
Câu hỏi then chốt đối với các nhà đầu tư là liệu Amazon có thể chuyển đổi việc di chuyển phần mềm dễ dàng hơn thành nhu cầu bền vững đối với Trainium hay không. Amazon đang nỗ lực giảm các rào cản phần mềm khiến khách hàng tiếp tục sử dụng chip của Nvidia, chứ không chỉ đơn thuần là xây dựng phần cứng thay thế. Thành công có thể làm suy yếu lợi thế phần mềm bảo vệ Nvidia khỏi sự cạnh tranh.
Amazon ra mắt TorchNeuron để chạy mã PyTorch trên các chip Trainium
BenzingaChia sẻ
Tóm tắt
Amazon đã ra mắt TorchNeuron, một công cụ mã nguồn mở để chạy mã PyTorch trên các chip Trainium với ít thay đổi nhất. Công cụ này giúp các nhà phát triển tránh phải viết lại ứng dụng khi chuyển từ CUDA của Nvidia. TorchNeuron cho phép các mô hình PyTorch hiện có chạy trên Trainium chỉ với một bản cập nhật cấu hình, giảm chi phí chuyển đổi. Các công ty AI lớn như Anthropic đã sử dụng Trainium, và hơn 30 người dùng sớm đang thử nghiệm TorchNeuron. Tin tức này trên chuỗi đánh dấu sự thay đổi trong tin tức AI + crypto khi Amazon thách thức sự thống trị của Nvidia.
Nguồn:Hiển thị bản gốc
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này.
Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.