Amazon sử dụng chip Trainium tùy chỉnh để tăng tốc mô hình khuếch tán phát trực tiếp Prime 360

iconKuCoinFlash
Chia sẻ
AI summary iconTóm tắt
Amazon sử dụng các chip Trainium tùy chỉnh để hỗ trợ các buổi phát trực tiếp Prime 360, hiện đã được tích hợp vào các bản phát sóng NBA trên Prime. Hệ thống ghi lại hình ảnh sân đấu bằng các camera độ phân giải cao và sử dụng mô hình khuếch tán AI để tạo ra các đoạn phim nổi bật mang tính điện ảnh theo thời gian thực. Mô hình thực hiện hàng tỷ phép toán trên mỗi khung hình, bao gồm phép nhân ma trận và làm sạch lặp lại. Thiết kế 'tile in, tile out' của Trainium chia các khung hình thành các ô chồng lấn để xử lý song song, giảm độ trễ suy luận hơn 40%. Dữ liệu trên chuỗi cho thấy sự quan tâm ngày càng tăng đối với các altcoin cần theo dõi khi công nghệ này dần được chấp nhận rộng rãi.
ME AI Tin tức, Amazon đã triển khai công nghệ Prime 360 trong một số sự kiện phát trực tiếp NBA on Prime, sử dụng dãy camera độ phân giải cao bao quanh sân để ghi lại hình ảnh, sau đó AI mô hình khuếch tán tạo từng khung hình các đoạn phim tổng hợp điện ảnh sống động và tích hợp vào luồng phát trực tiếp. Theo AmazonScience, mô hình khuếch tán này cần hàng tỷ phép toán mỗi khung hình, bao gồm nhân ma trận, tính toán chú ý và khử nhiễu lặp đi lặp lại; để đáp ứng yêu cầu thời gian thực, Amazon đã sử dụng chip AI tự phát triển Trainium. Trainium sử dụng kiến trúc “tile in, tile out”, được tối ưu hóa cho các quy trình có đầu vào và đầu ra là các tensor lớn; nhờ đó, mô hình khuếch tán của Prime 360 chia mỗi khung hình thành hàng chục mảnh chồng lấn để xử lý riêng biệt, giúp giảm độ trễ suy luận của mô hình khuếch tán hơn 40%. Trước đây, chip tự phát triển chủ yếu được sử dụng để hỗ trợ cơ sở hạ tầng đám mây AWS, lần này nó trực tiếp xuất hiện trên màn hình của hàng triệu khán giả. (Nguồn: InFoQ)
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.