這次規模更大並不代表更好。 核心貢獻者 @valoryag 使用 Olas-Predict-R1-14B 的訓練方法,在 Olas 代理的預測數據上對 NVIDIA 的 Nemotron 120B 進行了微調:選取推理範例、監督式預熱,然後進行強化學習。訓練過程由 @thinkymachines 的 Tinker 完成。 在 11,496 個保留的預測中,Nemotron 未顯示出明顯的改善。訓練前 → 訓練後: • Brier 錯誤(越低越好):0.265 → 0.267 • 平衡準確率(越高越好):59.7% → 59.4% • 無法理解的答案(越少越好):503 → 528 我們訓練的 14B 模型具有更好的校準性、更高的平衡準確率,且僅有 10 個無法理解的答案。Nemotron 的 Brier 錯誤略低:0.267 對比 0.270。 為何此方法未能遷移?Nemotron 的專家混合架構可能需要更多樣化的數據或不同的訓練設定來進行預測。我們尚未測試這些假設,因此原因仍待釐清。 我們的收穫:現有的訓練方法與預算提升了 14B 模型的表現,但對 Nemotron 沒有帶來明顯改善。 接下來,我們將測試一個更大的密集模型,並在投入完整訓練前進行早期檢查以確認是否有改善。 閱讀實驗與結果:https://t.co/ZSziFiraIZ
