L'ingénierie du contexte devient plus importante que l'ingénierie des invites. Une invite indique au modèle ce qu'il doit faire. Le contexte détermine ce dont le modèle dispose pour le faire efficacement. Cela inclut les documents récupérés, l'historique de la conversation, les sorties des outils, les instructions système, les préférences utilisateur et l'état de l'application. Un ingénieur IA expérimenté apprend à contrôler délibérément ce contexte. Éliminez les informations non pertinentes. Priorisez les preuves les plus utiles. Séparez les données fiables du contenu généré. Gérez les informations périmées. Compressez les longs historiques sans perdre les détails importants. Rendez les sorties des outils structurées et prévisibles. Beaucoup d'échecs de l'IA qui semblent être des problèmes de modèle sont en réalité des problèmes de contexte. Un meilleur contexte améliore souvent une application sans modifier le modèle du tout.