Lần này, lớn hơn không có nghĩa là tốt hơn. Chuyên gia đóng góp chính @valoryag đã tinh chỉnh Nemotron 120B của NVIDIA trên dữ liệu dự báo từ các agent Olas, sử dụng công thức từ Olas-Predict-R1-14B: chọn các ví dụ suy luận, khởi động có giám sát, sau đó học tăng cường. Quá trình huấn luyện được thực hiện qua Tinker của @thinkymachines. Trên 11.496 dự báo được giữ lại, Nemotron không cho thấy sự cải thiện rõ rệt. Trước → sau huấn luyện: • Sai số Brier (càng thấp càng tốt): 0,265 → 0,267 • Độ chính xác cân bằng (càng cao càng tốt): 59,7% → 59,4% • Câu trả lời không đọc được (càng ít càng tốt): 503 → 528 Mô hình 14B của chúng tôi đã có độ điều chỉnh tốt hơn, độ chính xác cân bằng cao hơn và chỉ có 10 câu trả lời không đọc được. Nemotron vẫn giữ sai số Brier thấp hơn một chút: 0,267 so với 0,270. Tại sao công thức này không chuyển giao được? Thiết kế mixture-of-experts của Nemotron có thể cần dữ liệu đa dạng hơn hoặc cài đặt huấn luyện khác để dự báo. Chúng tôi chưa kiểm tra các giải thích này, nên nguyên nhân vẫn còn mở. Điều chúng tôi học được: công thức và ngân sách huấn luyện hiện tại của chúng tôi đã cải thiện mô hình 14B nhưng không mang lại lợi ích rõ ràng nào cho Nemotron. Tiếp theo, chúng tôi sẽ thử nghiệm một mô hình dày đặc lớn hơn, với kiểm tra sớm để đánh giá sự cải thiện trước khi cam kết thực hiện toàn bộ quá trình. Đọc thí nghiệm và kết quả: https://t.co/ZSziFiraIZ