繩索能解鎖更強大的 AI 系統嗎? 研究人員開發了一種新型繩索,讓現有模型能夠處理更長且更複雜的工作流程。 遞迴語言模型(RLM)將大型檔案和資料集保留在主模型的上下文之外。模型透過代碼選擇相關部分,將每部分發送至獨立的模型請求,並整合結果。 這與一般會話不同,一般會話中檔案、工具輸出和結果都會累積在單一上下文中。隨著上下文增長,模型可能會開始遺漏關鍵細節。 為測試此結構是否也能提升學習效果,研究人員使用強化學習(RL)在固定 RLM 繩索內僅使用短任務訓練 Qwen3-30B,然後在長度為 8–32 倍的任務上進行評估。 在較長的評估中,經 RLM 訓練的模型展現顯著改善,而未使用繩索訓練的相同模型則幾乎沒有進步。在其他獨立實驗中,該模型也將相同策略應用於需要類似基礎步驟的新領域。


