การจัดการบริบทกำลังสำคัญมากกว่าการจัดการคำสั่ง คำสั่งบอกโมเดลว่าต้องทำอะไร บริบทกำหนดว่าโมเดลมีข้อมูลอะไรให้ใช้เพื่อทำสิ่งนั้นได้อย่างมีประสิทธิภาพ ซึ่งรวมถึงเอกสารที่ดึงมา ประวัติการสนทนา ผลลัพธ์จากเครื่องมือ คำสั่งระบบ ความชอบของผู้ใช้ และสถานะของแอปพลิเคชัน วิศวกร AI ที่เก่งจะเรียนรู้ที่จะควบคุมบริบทอย่างตั้งใจ ตัดข้อมูลที่ไม่เกี่ยวข้องออก เน้นข้อมูลที่มีประโยชน์มากที่สุด แยกข้อมูลที่เชื่อถือได้ออกจากเนื้อหาที่สร้างขึ้น จัดการกับข้อมูลที่ล้าสมัย บีบอัดประวัติที่ยาวนานโดยไม่สูญเสียรายละเอียดสำคัญ ทำให้ผลลัพธ์จากเครื่องมือมีโครงสร้างและคาดเดาได้ ความล้มเหลวของ AI หลายอย่างที่ดูเหมือนเป็นปัญหาของโมเดล แท้จริงแล้วเป็นปัญหาของบริบท การปรับปรุงบริบทให้ดีขึ้นมักช่วยยกระดับแอปพลิเคชันโดยไม่ต้องเปลี่ยนโมเดลเลย