ExpRL hakkında beni özellikle dikkat çeken şey, şu anda yapay zeka ilerlemesini nasıl düşündüğümüzün bir sınırlamasını ortaya koyuyor olması. Çoğu performans ölçütü, modelin doğru cevaba ulaşıp ulaşmadığını ölçer sadece. Nadir olarak, yol boyunca keşfedilen ve reddedilen kaç faydalı fikrin ölçüldüğüne bakar. İnsan yenilikçiliği sıklıkla başarısız denemelerden gelir. Mükemmel olanlardan değil. Bir bilim insanı, doğru hipotezi bulmadan önce yüzlerce yanlış hipotezi test edebilir. Ancak geleneksel RL, her başarısız yolu eşit derecede değersiz olarak görür. ExpRL, bu başarısızlıkların içinde değerli bilgilerin gizli olabileceğini öne sürer. Bu fikir, matematiksel performans ölçütlerinin ötesinde de önemli görünüyor. Yapay zeka ajanları daha yetenekli hale geldikçe, en hızlı cevabı bulan modeller kazanmayabilir. En çok yanlışlıktan öğrenen modeller kazanabilir. Bu, doğrulamanın neden önemli olduğunu da açıklar. Ara süreçlerdeki akıl yürütme ve çıktıları değerlendirmek için güvenilir yollar olmadan, üretken keşifleri saf hayal kırıklığından ayırt edemeyiz. Yapay zekanın geleceği, cevaplar üretmekten ziyade, hangi hataların öğrenmeye değer olduğunun anlaşılmasına daha az bağlı olabilir. @ritualnet