ExpRL के बारे में मुझे जो बात ध्यान आकर्षित करती है, वह है कि यह हमारे वर्तमान AI प्रगति के बारे में सोचने की सीमा को उजागर करता है। अधिकांश बेंचमार्क केवल यह मापते हैं कि मॉडल सही उत्तर तक पहुँचता है या नहीं। वे लगभग कभी यह नहीं मापते कि रास्ते में कितने उपयोगी विचारों को खोजा गया और छोड़ दिया गया। मानव नवाचार अक्सर असफल प्रयासों से आता है। परफेक्ट प्रयासों से नहीं। एक वैज्ञानिक सही परिकल्पना पाने से पहले सैकड़ों गलत परिकल्पनाओं का परीक्षण कर सकता है। लेकिन पारंपरिक RL हर असफल रास्ते को समान रूप से बेकार मानता है। ExpRL सुझाव देता है कि शायद उन असफलताओं के भीतर मूल्यवान जानकारी छिपी हुई है। यह विचार गणितीय बेंचमार्क से परे महत्वपूर्ण लगता है। जैसे-जैसे AI एजेंट क्षमतावान होते जा रहे हैं, विजेता शायद वे मॉडल नहीं होंगे जो सबसे तेज़ी से उत्तर पा लेते हैं। वे मॉडल हो सकते हैं जो गलत होने से सबसे अधिक सीखते हैं। यही कारण है कि सत्यापन महत्वपूर्ण है। बिना मध्यवर्ती तर्क और आउटपुट का विश्वसनीय तरीके से मूल्यांकन करने के, हम प्रोडक्टिव खोज को सिर्फ हॉलुसिनेशन से अलग नहीं कर सकते। AI का भविष्य कम से कम उत्तर प्रदान करने पर निर्भर करेगा। और अधिक से अधिक यह समझने पर कि कौन सी गलतियाँ सीखने के लायक हैं। @ritualnet