source avatarMinty

Kongsi

Model generatif mungkin perlahan disebabkan cara kita melatihnya. Apabila banyak output yang sah, melatih model rekonstruktif untuk meramal satu output dalam satu langkah boleh menarik outputnya ke arah purata peluang-peluang tersebut. Model difusi dan autoregresif mengelakkan ini dengan memecahkan proses penghasilan kepada langkah-langkah kecil yang perlu diulang semasa inferens. Versi paling mudah bagi Pemodelan Eksploratif menghasilkan beberapa output yang mungkin bagi setiap contoh latihan dan belajar daripada output yang paling sepadan dengan sasaran. Ini membolehkan model menangkap pelbagai output yang sah, bukan menggabungkannya menjadi purata. Apabila ditambahkan kepada asas penghasilan imej yang kuat, eksplorasi mencapai prestasi akhir asas selepas memproses 6.2x lebih sedikit sampel latihan dan menggunakan 4.1x lebih sedikit FLOP. Ia juga meningkatkan model bahasa video dan masked-diffusion. Dalam eksperimen penskalaan berasingan, keuntungan meningkat seiring dengan pertambahan saiz model dan data latihan. Model Eksploratif sepenuhnya end-to-end mencapai tahap asas difusi pada tugas kawalan sambil menggunakan sehingga 256x lebih sedikit penilaian rangkaian semasa inferens. Eksplorasi mungkin membantu model menyelesaikan ketidakpastian yang lebih banyak semasa latihan, jadi ia memerlukan lebih sedikit langkah untuk menghasilkan output.

No.0 picture
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.