再帰的自己改善についての議論の多くは、モデルが次第に賢くなるだけだと扱っている。 この論文は、明確な区別を描き出している。 真のRSIとは、AIがタスクをより上手にこなすようになることではない。 それは、AIが「より良くなる方法」をより良くするということである。 著者たちは、多くの研究室がまだ混同している道筋を示している： L1 — システムが人間が既に設計した改善を実行する L2 — 自身の改善戦略を自ら選択し始める L3 — 次に必要な学習体験を生成する L4 — ベンチマークだけでなく、実稼働環境から適応する L5 — 将来の改善を生み出すメカニズム自体を変更する この最後のステップが真の主張である。目指すのは、より高いスコアを出す人間が設計した別のモデルではない。それは、得られた進歩が継続し、次世代にフィードバックされ、さらに改善プロセスそのものを向上させるAIである。 もしこれが実現すれば、この世代のシステムこそ、私たちが手作業で構築する最後の世代となるだろう。 エージェント、評価、またはトレーニング後のループに従事している方には読む価値あり：https://t.co/scFLD1h9Ow