PyTorch ra mắt TRANSIT Runtime để giảm 50% nhu cầu GPU cho việc huấn luyện mô hình lớn

iconKuCoinFlash
Chia sẻ
AI summary iconTóm tắt
Trong một bản cập nhật lớn về tin tức tiền điện tử, PyTorch đã ra mắt runtime TRANSIT cùng với MetaEra. Công cụ này sử dụng bộ nhớ ảo thống nhất để giảm mức sử dụng GPU lên đến 50% trong quá trình huấn luyện mô hình lớn. Nó không yêu cầu thay đổi mã nguồn và nhằm mục tiêu giúp huấn luyện LLM hiệu quả hơn. Runtime này được giới thiệu bởi Tiến sĩ Hyungyo Kim (Nguồn: InfoQ). Phát triển này mang đến tin tức tiền điện tử mới dành cho các nhà phát triển AI và học máy.
ME AI tin nhắn, PyTorch chính thức phát hành runtime TRANSIT (TRANsparent Scale-In for multi-node Training), sử dụng công nghệ bộ nhớ ảo thống nhất để làm cho việc huấn luyện LLM quy mô lớn trở nên thực tế hơn. Runtime này có thể giảm tối đa 50% số GPU cần thiết để huấn luyện mô hình mà không cần sửa đổi mã huấn luyện PyTorch hiện có. Liên kết liên quan được cung cấp bởi Hyungyo Kim, Ph.D. (Nguồn: InFoQ)
Nguồn:Hiển thị bản gốc
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.