Tôi nghĩ mình đã có 1M context trong Codex. Sau đó tôi nhận thấy Astra chat của tôi đang hiển thị 172k đã sử dụng trong số 258k. Thông số API của Astra có ghi rõ 1,05M token, nhưng Codex có thể sử dụng cửa sổ context nhỏ hơn làm mặc định. Trong thiết lập của tôi, mặc định là 272.000 token. Với hệ số 95% cửa sổ có thể sử dụng của client, điều này giải thích con số 258k hiển thị trong ứng dụng. Giới hạn tối đa trong danh mục mô hình cục bộ của tôi là 872.000 token, tương ứng với khoảng 828k có thể sử dụng. Thiết lập của bạn có thể có giới hạn khác, nên đáng để Codex kiểm tra trước khi thay đổi. Một sự đánh đổi: giữ nhiều lịch sử hơn trong context hoạt động có thể làm tiêu tốn nhiều hơn khoản cho phép của bạn. Việc tăng giới hạn tối đa không có nghĩa là mọi yêu cầu đều sẽ tiêu thụ toàn bộ cửa sổ. Đối với Codex đăng nhập qua ChatGPT, không có hệ số nhân context dài riêng biệt, nhưng việc xử lý nhiều token hơn vẫn sẽ tính vào phí. Sử dụng khóa API của riêng bạn tuân theo mức giá API. Nếu bạn muốn cửa sổ lớn nhất mà thiết lập của bạn hỗ trợ, dán đoạn sau vào Codex: --------------------------- "Tăng cửa sổ context của Codex lên mức tối đa được hỗ trợ bởi mô hình, tài khoản và client hiện tại được chọn. Kiểm tra cấu hình người dùng đang hoạt động, tuân thủ CODEX_HOME và bất kỳ ghi đè nào từ hồ sơ hoặc dự án hiệu lực. Xác định mô hình được chọn và xác minh giới hạn tối đa cụ thể của client bằng dữ liệu mô hình có thẩm quyền hiện tại. Phân biệt context_window mặc định với max_context_window. Không giả định 1M hay mã cứng 872000. Nếu không thể xác minh giới hạn tối đa, giữ nguyên cài đặt và giải thích lý do. Sao lưu mọi tệp bạn chỉnh sửa. Giữ nguyên các cài đặt, thông tin xác thực, nhà cung cấp, mô hình, tốc độ, nỗ lực suy luận, khả năng hiển thị Ultra và chính sách quyền không liên quan. Không bao giờ in ra bí mật. Đặt model_context_window thành giá trị tối đa đã xác minh ở phạm vi cấu hình phù hợp. Trong cấu hình người dùng, nó phải là khóa cấp cao nhất trước phần đầu tiên. Cập nhật khóa hiện có thay vì tạo bản sao. Kiểm tra các ghi đè ưu tiên cao hơn và tuân thủ các chính sách quản lý. Giữ chế độ nén tự động được bật. Báo cáo ngưỡng nén rõ ràng hiện có riêng biệt, thay vì tự tạo ngưỡng mới. Không sửa đổi danh mục mô hình hay bỏ qua giới hạn. Xác thực cấu hình và đảm bảo chỉ các cài đặt mong muốn đã thay đổi. Không khởi động lại ứng dụng hay ngắt các tác vụ đang chạy. Báo cáo vị trí sao lưu, các thay đổi chính xác và cửa sổ có thể sử dụng dự kiến. Sử dụng effective_context_window_percent khi dữ liệu mô hình cung cấp nó. Cung cấp hướng dẫn khởi động lại và xác minh. Phân biệt rõ cài đặt đã lưu với giới hạn thực tế được báo cáo bởi một cuộc trò chuyện đang chạy." --------------------------- Sau khi các tác vụ đang hoạt động của bạn kết thúc, đóng hoàn toàn và mở lại ứng dụng, sau đó kiểm tra chỉ báo context. Nếu một cuộc trò chuyện hiện tại vẫn giữ giới hạn cũ, hãy kiểm tra một cuộc trò chuyện mới.
