source avatarMinty

Chia sẻ

Các mô hình sinh có thể chạy chậm do cách chúng ta huấn luyện chúng. Khi có nhiều đầu ra hợp lệ, việc huấn luyện một mô hình tái tạo để dự đoán một đầu ra trong một bước duy nhất có thể kéo đầu ra của nó về phía trung bình của các khả năng đó. Các mô hình khuếch tán và tự hồi quy tránh được điều này bằng cách chia quá trình sinh thành các bước nhỏ hơn, cần được lặp lại trong suy luận. Phiên bản đơn giản nhất của Mô hình Khám phá tạo ra nhiều đầu ra có thể có cho mỗi ví dụ huấn luyện và học từ đầu ra phù hợp nhất với mục tiêu. Điều này cho phép mô hình nắm bắt các đầu ra hợp lệ khác nhau thay vì trung bình hóa chúng lại. Khi được thêm vào một nền tảng sinh ảnh mạnh mẽ, sự khám phá đã đạt được hiệu suất cuối cùng của nền tảng sau khi xử lý ít hơn 6,2 lần mẫu huấn luyện và sử dụng ít hơn 4,1 lần FLOPs. Nó cũng cải thiện các mô hình ngôn ngữ video và masked-diffusion. Trong các thí nghiệm mở rộng riêng biệt, lợi ích tăng lên khi kích thước mô hình và dữ liệu huấn luyện tăng lên. Các Mô hình Khám phá hoàn toàn end-to-end đạt được hiệu suất tương đương với các nền tảng khuếch tán trên các nhiệm vụ kiểm soát, đồng thời sử dụng ít hơn tới 256 lần số lần đánh giá mạng trong suy luận. Khám phá có thể giúp các mô hình giải quyết nhiều bất định hơn trong quá trình huấn luyện, do đó cần ít bước hơn để tạo ra một đầu ra.

No.0 picture
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụngTiết lộ rủi ro của chúng tôi.