
大多數關於遞歸自我改進的討論,都將其視為模型不斷變得更聰明。 這篇論文劃出了一條更清晰的界線。 真正的遞歸自我改進(RSI)並非 AI 在任務上變得更優秀, 而是 AI 在「變得更優秀」這件事上變得更優秀。 作者們繪製出一條大多數實驗室仍混淆不清的路徑: L1 — 系統執行人類已設計好的改進 L2 — 它開始選擇自己的改進策略 L3 — 它生成下一個所需的學習經驗 L4 — 它從實際部署中適應,而不僅僅是基準測試 L5 — 它修改產生未來改進的機制 最後一步才是真正的主張。目標並非另一個由人類構建、分數更高的模型,而是一個其收益能持續、反饋給下一代,並進一步改善改進過程本身的 AI。 如果這一目標實現,這一代系統確實將成為我們最後一批手動構建的系統。 如果你從事代理、評估或後訓練迴圈相關工作,這篇論文值得一讀:https://t.co/scFLD1h9Ow
