Satu hal yang menonjol bagi saya tentang ExpRL adalah bahwa ia memperlihatkan keterbatasan dalam cara kita saat ini memandang kemajuan AI. Sebagian besar benchmark hanya mengukur apakah model mencapai jawaban yang benar. Jarang sekali mereka mengukur berapa banyak ide yang berguna telah dieksplorasi dan dibuang sepanjang prosesnya. Inovasi manusia seringkali berasal dari upaya yang gagal. Bukan dari yang sempurna. Seorang ilmuwan mungkin menguji ratusan hipotesis yang salah sebelum menemukan yang tepat. Namun RL tradisional memperlakukan setiap jalur yang gagal sebagai sama-sama tak bernilai. ExpRL menyarankan bahwa mungkin ada informasi berharga yang tersembunyi di dalam kegagalan-kegagalan tersebut. Gagasan ini terasa penting jauh melampaui benchmark matematis. Ketika agen AI menjadi semakin mampu, pemenangnya mungkin bukan model yang menemukan jawaban paling cepat. Mereka mungkin adalah model yang paling banyak belajar dari kesalahan mereka. Ini juga mengapa verifikasi penting. Tanpa cara yang andal untuk mengevaluasi penalaran dan output intermediari, kita tidak dapat membedakan eksplorasi yang produktif dari hanyalah halusinasi murni. Masa depan AI mungkin lebih bergantung pada pemahaman kesalahan mana yang layak dipelajari, daripada sekadar menghasilkan jawaban. @ritualnet