Я думав, що маю 1M контексту в Codex. Потім я помітив, що мій Astra чат показує 172k використаних із 258k. У специфікації API Astra зазначено 1,05M токенів, але Codex за замовчуванням може використовувати менше вікно контексту. У моїй конфігурації за замовчуванням було 272 000 токенів. З урахуванням коефіцієнта 95% використовуваного вікна клієнта, це пояснює 258k, що відображається в додатку. Максимум у моєму локальному каталозі моделей — 872 000 токенів, що відповідає приблизно 828k використовуваного. У вашій конфігурації може бути інший ліміт, тому варто, щоб Codex перевірив це перед зміною. Одна з компромісних сторін: зберігання більшої історії в активному контексті може використовувати більше вашого ліміту. Підвищення верхньої межі саме по собі не означає, що кожен запит буде використовувати все вікно. Для Codex, увійденого через ChatGPT, немає окремого множника довгого контексту, але обробка більшої кількості токенів все одно враховується. Використання вашого власного ключа API підлягає ціноутворенню API. Якщо ви хочете найбільше вікно, яке підтримує ваша конфігурація, вставте це в Codex: --------------------------- "Збільште мій контекстний вікно Codex до максимального, яке підтримується моєю поточно обраною моделлю, акаунтом і клієнтом. Перевірте активну конфігурацію користувача, дотримуючись CODEX_HOME та будь-яких ефективних профілів або переозначень проекту. Визначте обрану модель та перевірте її клієнт-специфічний максимум за допомогою поточної авторитетної метаданих моделі. Розрізняйте default_context_window та max_context_window. Не припускайте 1M або жорстко кодуйте 872000. Якщо максимум не може бути перевірений, залиште налаштування незмінним і поясніть це. Зробіть резервну копію кожного файлу, який ви редагуєте. Збережіть не пов’язані налаштування, облікові дані, провайдера, модель, швидкість, зусилля мислення, видимість Ultra та політики дозволів. Ніколи не виводьте секрети. Встановіть model_context_window на підтверджений максимум у відповідному рівні конфігурації. У конфігурації користувача вона має бути верхнім ключем перед першим розділом. Оновлюйте існуючий ключ, а не дублюйте його. Перевірте наявність переозначень з вищим пріоритетом та дотримуйтесь керованих політик. Залиште автоматичне стиснення увімкненим. Окремо повідомляйте про наявний явний порог стиснення, а не вигадуйте новий порог. Не змінюйте каталози моделей чи не обходьте ліміти. Перевірте конфігурацію та переконайтесь, що змінилися лише передбачені налаштування. Не перезапускайте додаток чи не переривайте запущені завдання. Повідомте місце резервної копії, точні зміни та очікуваний використовуваний контекстний вікно. Використовуйте effective_context_window_percent, якщо метадані надають його. Надайте інструкції щодо перезапуску та перевірки. Розрізняйте збережене налаштування та реальний ліміт, повідомлений запущеним чатом." --------------------------- Псля завершення ваших активних завдань повністю закрийте та повторно відкрийте додаток, потім перевірте індикатор контексту. Якщо існуючий чат зберегає старий ліміт, перевірте новий чат.
