Meta giới thiệu SIGReg cho mô hình video LeVJEPA, tăng hiệu quả FLOP lên 20 lần

iconKuCoinFlash
Chia sẻ
AI summary iconTóm tắt
Meta giới thiệu SIGReg cho mô hình video LeVJEPA, cải thiện hiệu quả FLOP lên 20 lần. Phương pháp này sử dụng một hàm mất mát đơn giản mà không cần các kỹ thuật phức tạp như tubelet hoặc EMA. Khối lượng vị thế mở đối với các altcoin cần theo dõi vẫn ở mức cao, vì dự án tuyên bố là mã nguồn mở và có thể tái tạo lại. Các nhà nghiên cứu MetaEra nhấn mạnh những lợi ích về hiệu quả so với VJEPA1/2.
ME AI Tin nhắn, nhà nghiên cứu Meta Yann LeCun đã chia sẻ và công bố phương pháp mới SIGReg để tiền huấn luyện mô hình nền tảng video, mô hình tương ứng là LeVJEPA. Phương pháp này sử dụng hàm mất mát đơn giản (sigreg + prediction), không cần các kỹ thuật phức tạp như tubelet, tổng hợp khung hình, EMA, stop-gradient, và đạt hiệu quả FLOP cao gấp 20 lần so với các phương pháp tiền huấn luyện VJEPA1/2. Dự án tuyên bố sẽ mở nguồn và có thể tái tạo lại. (Nguồn: InFoQ)
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụngTiết lộ rủi ro của chúng tôi.