Modelos gerativos podem ser lentos devido à forma como os treinamos. Quando muitas saídas são válidas, treinar um modelo reconstructivo para prever uma delas em um único passo pode puxar sua saída em direção à média dessas possibilidades. Modelos de difusão e autoregressivos evitam isso ao dividir a geração em etapas menores que devem ser repetidas durante a inferência. A versão mais simples do Modelagem Explorativa gera várias saídas possíveis para cada exemplo de treinamento e aprende com aquela que melhor corresponde ao alvo. Isso permite que o modelo capture diferentes saídas válidas em vez de média-las. Adicionado a uma base sólida de geração de imagens, a exploração atingiu o desempenho final da base após processar 6,2x menos amostras de treinamento e usar 4,1x menos FLOPs. Também melhorou modelos de vídeo e linguagem com difusão mascarada. Em experimentos separados de escala, os ganhos aumentaram à medida que o tamanho do modelo e os dados de treinamento cresceram. Modelos Explorativos totalmente end-to-end emparelharam as bases de difusão em tarefas de controle, usando até 256x menos avaliações de rede durante a inferência. A exploração pode ajudar os modelos a resolver mais incerteza durante o treinamento, para que precisem de menos etapas para gerar uma saída.