يصبح هندسة السياق أكثر أهمية من هندسة المطالبات. المطالبة تخبر النموذج بما يجب فعله. السياق يحدد ما هو متاح للنموذج لفعله بشكل جيد. ويشمل ذلك المستندات المسترجعة، وسجل المحادثة، ومخرجات الأدوات، وتعليمات النظام، وتفضيلات المستخدم، وحالة التطبيق. يتعلم مهندس الذكاء الاصطناعي الجيد التحكم في هذا السياق بوعي. أبقِ المعلومات غير ذات صلة خارجًا. قدّم الأدلة الأكثر فائدة. افصل البيانات الموثوقة عن المحتوى المُولَّد. تعامل مع المعلومات القديمة. اختصر السجلات الطويلة دون فقدان التفاصيل المهمة. اجعل مخرجات الأدوات منظمة وقابلة للتنبؤ. العديد من فشل الذكاء الاصطناعي التي تبدو كمشاكل في النموذج هي في الواقع مشاكل في السياق. غالبًا ما يحسن السياق الأفضل تطبيقًا دون تغيير النموذج على الإطلاق.