コンテキストエンジニアリングは、プロンプトエンジニアリングよりも重要になりつつある。 プロンプトはモデルに何をすべきかを指示する。 コンテキストは、モデルがそれをうまく行うために利用できる情報を決定する。 これには、検索されたドキュメント、会話履歴、ツールの出力、システム指示、ユーザーの好み、アプリケーションの状態が含まれる。 優れたAIエンジニアは、このコンテキストを意図的に制御する方法を学ぶ。関係のない情報を除外し、最も有用な証拠を優先する。 信頼できるデータと生成されたコンテンツを分離し、古くなった情報を適切に処理する。 重要な詳細を失わずに長い履歴を圧縮する。 ツールの出力を構造化し、予測可能にする。 多くのAIの失敗はモデルの問題に見えるが、実際にはコンテキストの問題である。 より良いコンテキストは、モデルを変更せずにアプリケーションの性能を向上させることが多い。

