Bağlam mühendisliği, talimat mühendisliğinden daha önemli hale geliyor. Bir talimat, modele ne yapacağını söyler. Bağlam, modelin bunu iyi yapmak için sahip olduğu kaynakları belirler. Bu, alınmış belgeler, konuşma geçmişi, araç çıktıları, sistem talimatları, kullanıcı tercihleri ve uygulama durumunu içerir. Güçlü bir Yapay Zeka mühendisi, bu bağlamı bilinçli olarak kontrol etmeyi öğrenir. İlgisiz bilgileri dışarıda tutun. En faydalı kanıtlara öncelik verin. Güvenilir verileri oluşturulan içerikten ayırın. Eski bilgilerle başa çıkın. Önemli ayrıntıları kaybetmeden uzun geçmişleri sıkıştırın. Araç çıktılarını yapılandırılmış ve öngörülebilir hale getirin. Çoğu Yapay Zeka hatası, model sorunu gibi görünse de aslında bağlam sorunudur. Daha iyi bir bağlam, modeli değiştirmeden bile bir uygulamayı iyileştirebilir.