Anthropic 推出 Claude API 的 Beta 功能:開發者可在訊息流中隨時調整 effort 檔位,平衡速度、充分度與成本,適用於智能體場景。文章作者、來源:AIBase
在同一段對話中前鬆後緊,Anthropic 讓開發者終於能在中途為模型「踩油門」。11 月 12 日,這家 Claude 開發商為 API 新增了一項 Beta 功能:開發者可在訊息流中隨時調整 effort,也就是模型回答問題願「費多大勁」的檔位,幫助使用者在回答充分度、響應速度與使用成本之間隨手調節。
換檔不重開,快取不掉線
過去的對話只能套用一組固定參數,如今不必如此了。做法是在訊息序列中插入一條空白的 system 訊息,再使用新的 output_config.effort 指定目標等級,頂層配置與已命中的提示快取均保持不變。需注意的是,此指令不具回溯性——它僅從下一條帶有新輸入的用戶訊息開始生效,已生成的內容不會有任何變動,因此插入位置與何時等待下一次提問,都必須精準掌握。
從閒扯到硬核,一處分水嶺
Effort 調的遠不止最終寫多少字,思考深度、調用工具的次數、組織回答的投入都會被牽動。典型用法是:對話前半段做輕量問答,切到複雜分析的那一刻拉高檔位,模型便自動加力。對長鏈路智能體尤其划算——前期檢索用低檔省 Token,遇到真正要推理的節點再升檔,不必為整段對話提前埋單。當 AI 學會"看菜下飯",算力和帳單才算真正捏在了開發者手心。


