Model generatif mungkin lambat karena cara kita melatihnya. Ketika banyak output valid, melatih model rekonstruktif untuk memprediksi satu output dalam satu langkah dapat menarik hasilnya ke arah rata-rata dari kemungkinan-kemungkinan tersebut. Model difusi dan autoregresif menghindari hal ini dengan membagi proses generasi menjadi langkah-langkah kecil yang harus diulang selama inferensi. Versi paling sederhana dari Explorative Modeling menghasilkan beberapa kemungkinan output untuk setiap contoh pelatihan dan belajar dari output yang paling sesuai dengan target. Ini memungkinkan model menangkap berbagai output valid, bukan merata-ratakannya. Ditambahkan ke baseline generasi gambar yang kuat, eksplorasi mencapai kinerja akhir baseline setelah memproses 6,2x lebih sedikit sampel pelatihan dan menggunakan 4,1x lebih sedikit FLOPs. Model ini juga meningkatkan model video dan masked-diffusion bahasa. Dalam eksperimen penskalaan terpisah, keuntungan meningkat seiring dengan bertambahnya ukuran model dan data pelatihan. Model Explorative end-to-end penuh mencapai kinerja baseline difusi pada tugas kontrol sambil menggunakan hingga 256x lebih sedikit evaluasi jaringan selama inferensi. Eksplorasi dapat membantu model menyelesaikan ketidakpastian lebih banyak selama pelatihan, sehingga memerlukan lebih sedikit langkah untuk menghasilkan output.