Kỹ thuật ngữ cảnh đang trở nên quan trọng hơn kỹ thuật nhắc nhở. Một lời nhắc chỉ cho mô hình biết phải làm gì. Ngữ cảnh xác định những gì mô hình có sẵn để thực hiện tốt việc đó. Điều này bao gồm các tài liệu được truy xuất, lịch sử hội thoại, đầu ra công cụ, hướng dẫn hệ thống, sở thích người dùng và trạng thái ứng dụng. Một kỹ sư AI giỏi biết chủ động kiểm soát ngữ cảnh này. Loại bỏ thông tin không liên quan. Ưu tiên các bằng chứng hữu ích nhất. Tách biệt dữ liệu đáng tin cậy khỏi nội dung được tạo ra. Xử lý thông tin lỗi thời. Nén lịch sử dài mà không làm mất các chi tiết quan trọng. Định dạng đầu ra công cụ sao cho có cấu trúc và có thể dự đoán được. Nhiều thất bại của AI trông giống như vấn đề của mô hình nhưng thực chất là vấn đề ngữ cảnh. Ngữ cảnh tốt hơn thường cải thiện ứng dụng mà không cần thay đổi mô hình chút nào.