Esta vez, ser más grande no fue mejor. El contribuidor principal @valoryag afinó el Nemotron 120B de NVIDIA con datos de pronóstico de agentes de Olas, utilizando la receta detrás de Olas-Predict-R1-14B: ejemplos seleccionados de razonamiento, un calentamiento supervisado y luego aprendizaje por refuerzo. El entrenamiento se ejecutó a través de Tinker de @thinkymachines. En 11,496 predicciones mantenidas aparte, Nemotron no mostró una mejora clara. Antes → después del entrenamiento: • Error de Brier (cuanto menor, mejor): 0.265 → 0.267 • Precisión equilibrada (cuanto mayor, mejor): 59.7% → 59.4% • Respuestas ilegibles (cuantas menos, mejor): 503 → 528 Nuestro modelo entrenado de 14B tuvo una mejor calibración, mayor precisión equilibrada y solo 10 respuestas ilegibles. Nemotron mantuvo un error de Brier ligeramente más bajo: 0.267 frente a 0.270. ¿Por qué no se transfirió la receta? El diseño mixture-of-experts de Nemotron podría necesitar datos más variados o configuraciones de entrenamiento diferentes para pronósticos. No hemos probado estas explicaciones, por lo que la causa sigue abierta. Lo que aprendimos: nuestra receta y presupuesto de entrenamiento actuales mejoraron el modelo de 14B pero no trajeron una ganancia clara a Nemotron. A continuación, probaremos un modelo denso más grande, con una verificación temprana de mejora antes de comprometernos con la ejecución completa. Lee el experimento y los resultados: https://t.co/ZSziFiraIZ
Olas (formerly Autonolas)Compartir
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.