教導搜尋系統最困難的事是克制。大多數 AI 代理在被要求尋找資訊時,會不斷提取上下文,直到達到令牌限制或超時。Databricks 決定訓練一個在真正完成時便停止的代理。
結果是 KARL,這是一個基於強化學習的檢索增強生成代理,其表現與 Claude Opus 4.6 相當,但成本降低 33%,延遲降低 47%。
教導代理停止
KARL 的核心見解是,搜尋效率低下通常是時機問題。傳統的 RAG 系統會檢索超出需求的上下文,處理冗餘資訊,並消耗大量計算資源。KARL 使用強化學習來判斷額外檢索何時不再增加價值,然後停止搜尋,而非默認繼續。
Databricks 將此與上下文壓縮結合,這是一種讓代理在決定是否獲取更多資料前,先壓縮已檢索內容的技術。
Agent Bricks 為這幅圖景增添了什麼
KARL 嵌入在 Databricks 於 2026 年 9 月推出的更大框架「Agent Bricks」中,該框架是一個用於構建自動優化、領域特定代理的平台。其基本理念是,企業無需手動調優每一個部署的模型。Agent Bricks 會自動處理優化,根據用自然語言定義的特定任務類型調整代理行為。
自推出以來,平台上已建立超過 100,000 名代理。該框架支援包括 Claude 和 GPT 系列在內的主要模型供應商,並透過 Databricks 的 Unity Catalog 進行治理。
Databricks 也在其 AI 搜尋產品中加入了重排序功能。重排序是指對初始檢索到的文件集重新計算相關性分數,再將其傳遞給語言模型。在企業基準測試中,準確率平均提升了 15 個百分點。
前沿的準確性,無需前沿價格
Databricks 內部引用的基準數字顯示,使用平行思考和多 LLM 設計等專用代理技術時,特定任務類型的準確率從約 32% 提升至超過 90%。
在檢索和推理任務上與 Claude Opus 4.6 相匹敵,同時將成本降低三分之一,使 Databricks 在企業市場中佔據了有趣的位置。该公司並非在銷售基礎模型,而是在銷售讓基礎模型可規模化使用的基礎設施。
