Meta Memperkenalkan SIGReg untuk Model Video LeVJEPA, Meningkatkan Kecekapan FLOP sebanyak 20x

iconKuCoinFlash
Kongsi
AI summary iconRingkasan
Meta memperkenalkan SIGReg untuk model video LeVJEPA, meningkatkan kecekapan FLOP sebanyak 20 kali. Kaedah ini menggunakan fungsi kerugian yang ringkas tanpa teknik kompleks seperti tubelet atau EMA. Minat terbuka terhadap altcoin yang perlu dipantau tetap tinggi kerana projek ini mengklaim bersifat sumber terbuka dan boleh diperbanyak semula. Penyelidik MetaEra menonjolkan peningkatan kecekapan berbanding VJEPA1/2.
ME AI Mesej, penyelidik Meta, Yann LeCun, memforwardkan pengumuman kaedah baru SIGReg untuk pra-pelatihan model asas video, dengan model yang sepadan ialah LeVJEPA. Kaedah ini menggunakan fungsi kerugian yang ringkas (sigreg + prediction), tanpa teknik kompleks seperti tubelet, pengumpulan bingkai, EMA, stop-gradient, dan mencapai peningkatan kecekapan FLOP sebanyak 20 kali berbanding kaedah pra-pelatihan VJEPA1/2. Projek ini mengaku bersifat sumber terbuka dan boleh diperbanyak semula. (Sumber: InFoQ)
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.