এবার বড় হওয়া ভালো হয়নি। কোর কন্ট্রিবিউটর @valoryag Olas এজেন্টগুলির থেকে প্রাপ্ত পূর্বানুমান ডেটার উপর NVIDIA-এর Nemotron 120B মডেলটিকে ফাইন-টিউন করেছেন, Olas-Predict-R1-14B-এর রেসিপি অনুসরণ করে: নির্বাচিত যুক্তির উদাহরণ, একটি সুপারভাইজড ওয়ার্ম-আপ, তারপর রিইনফোর্সমেন্ট লার্নিং। ট্রেইনিং @thinkymachines-এর Tinker-এর মাধ্যমে চলেছিল। 11,496টি হোল্ড-আউট পূর্বানুমানে, Nemotron-এর কোনো স্পষ্ট উন্নতি দেখা যায়নি। ট্রেইনিংয়ের আগে → পরে: • Brier error (কম ভালো): 0.265 → 0.267 • Balanced accuracy (বেশি ভালো): 59.7% → 59.4% • Unreadable answers (কম ভালো): 503 → 528 আমাদের ট্রেইনড 14B মডেলটির ক্যালিব্রেশন ভালো, বেশি balanced accuracy এবং মাত্র 10টি unreadable answer। Nemotron-এর Brier error কিছুটা কম: 0.267 vs 0.270। কেন এই রেসিপি ট্রান্সফার হলো না? Nemotron-এর mixture-of-experts ডিজাইনের জন্য পূর্বানুমানের জন্য আরও বিভিন্ন ডেটা বা ভিন্ন ট্রেইনিং সেটিংসের প্রয়োজন হতে পারে। আমরা এই ব্যাখ্যাগুলি পরীক্ষা করিনি, তাই কারণটি এখনও খোলা। আমরা যা শিখলাম: আমাদের existing recipe এবং training budget 14B মডেলকেউন্নতি করেছে, কিন্তু Nemotron-এর জন্য কোনো স্পষ্ট লাভ আনেনি। পরবর্তীতে, আমরা একটি বড় dense model-এর পরীক্ষা করব, full run-এর আগেই improvement-এর early check-এর সঙ্গে। পরীক্ষা এবংফলাফলগুলি পড়ুন: https://t.co/ZSziFiraIZ