Meta Memperkenalkan SIGReg untuk Model Video LeVJEPA, Meningkatkan Efisiensi FLOP hingga 20x

iconKuCoinFlash
Bagikan
This is the logo of the coin.
META
----
AI summary iconRingkasan
Meta memperkenalkan SIGReg untuk model video LeVJEPA, meningkatkan efisiensi FLOP sebesar 20x. Metode ini menggunakan fungsi loss sederhana tanpa teknik kompleks seperti tubelet atau EMA. Open interest pada altcoin yang perlu diawasi tetap tinggi karena proyek ini mengklaim bersifat open-source dan dapat direproduksi. Peneliti MetaEra menyoroti peningkatan efisiensi dibandingkan VJEPA1/2.
ME AI Pesan, peneliti Meta Yann LeCun membagikan metode baru SIGReg untuk pra-pelatihan model dasar video, dengan model yang sesuai adalah LeVJEPA. Metode ini menggunakan fungsi kerugian sederhana (sigreg + prediksi), tanpa teknik kompleks seperti tubelet, agregasi frame, EMA, atau stop-gradient, dan mencapai peningkatan efisiensi FLOP sebesar 20 kali dibandingkan metode pra-pelatihan VJEPA1/2. Proyek ini menyatakan akan bersifat open-source dan dapat direproduksi. (Sumber: InFoQ)
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.