情境工程的重要性正逐漸超越提示工程。 提示告訴模型該做什麼。 情境則決定模型有什麼可用資源來做好這件事。 這包括檢索到的文件、對話歷史、工具輸出、系統指令、使用者偏好和應用程式狀態。 一位優秀的 AI 工程師會刻意控制此類情境,排除不相關的資訊。 優先考慮最有用的證據。 區分可信資料與生成內容。 處理過時資訊。 壓縮長篇歷史記錄,同時不遺失重要細節。 讓工具輸出具有結構化且可預測的格式。 許多看似模型問題的 AI 失敗,實際上都是情境問題。 更好的情境通常能在不更改模型的情況下,大幅提升應用程式效能。

