source avatarOlas (formerly Autonolas)

分享

這次規模更大並不代表更好。 核心貢獻者 @valoryag 使用 Olas-Predict-R1-14B 的訓練方法,在 Olas 代理的預測數據上對 NVIDIA 的 Nemotron 120B 進行了微調:選取推理範例、監督式預熱,然後進行強化學習。訓練過程由 @thinkymachines 的 Tinker 完成。 在 11,496 個保留的預測中,Nemotron 未顯示出明顯的改善。訓練前 → 訓練後: • Brier 錯誤(越低越好):0.265 → 0.267 • 平衡準確率(越高越好):59.7% → 59.4% • 無法理解的答案(越少越好):503 → 528 我們訓練的 14B 模型具有更好的校準性、更高的平衡準確率,且僅有 10 個無法理解的答案。Nemotron 的 Brier 錯誤略低:0.267 對比 0.270。 為何此方法未能遷移?Nemotron 的專家混合架構可能需要更多樣化的數據或不同的訓練設定來進行預測。我們尚未測試這些假設,因此原因仍待釐清。 我們的收穫:現有的訓練方法與預算提升了 14B 模型的表現,但對 Nemotron 沒有帶來明顯改善。 接下來,我們將測試一個更大的密集模型,並在投入完整訓練前進行早期檢查以確認是否有改善。 閱讀實驗與結果:https://t.co/ZSziFiraIZ

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款和風險披露 。