source avatarMinty

Compartir

Los modelos generativos pueden ser lentos debido a cómo los entrenamos. Cuando muchas salidas son válidas, entrenar un modelo reconstructivo para predecir una sola salida en un paso único puede hacer que su salida se desplace hacia el promedio de esas posibilidades. Los modelos de difusión y autoregresivos evitan esto al dividir la generación en pasos más pequeños que deben repetirse durante la inferencia. La versión más simple del Modelado Explorativo genera varias salidas posibles para cada ejemplo de entrenamiento y aprende de la que mejor coincide con el objetivo. Esto permite que el modelo capture diferentes salidas válidas en lugar de promediarlas. Añadido a una base sólida de generación de imágenes, la exploración alcanzó el rendimiento final de la base tras procesar 6,2 veces menos muestras de entrenamiento y utilizar 4,1 veces menos FLOPs. También mejoró los modelos de video y lenguaje con difusión enmascarada. En experimentos de escalado separados, las mejoras aumentaron a medida que crecían el tamaño del modelo y los datos de entrenamiento. Los Modelos Explorativos completamente end-to-end empataron con las bases de difusión en tareas de control, utilizando hasta 256 veces menos evaluaciones de red durante la inferencia. La exploración puede ayudar a los modelos a resolver más incertidumbre durante el entrenamiento, por lo que necesitan menos pasos para generar una salida.

No.0 picture
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.