Saya sangka saya mempunyai 1M konteks dalam Codex. Kemudian saya perhatikan chat Astra saya menunjukkan 172k telah digunakan daripada 258k. Spesifikasi API Astra memang menyenaraikan 1.05M token, tetapi Codex boleh menggunakan tetingkap konteks yang lebih kecil secara lalai. Dalam tetapan saya, lalainya ialah 272,000 token. Dengan faktor tetingkap boleh digunakan 95% daripada klien, ia menjelaskan 258k yang ditunjukkan dalam aplikasi. Maksimum dalam katalog model tempatan saya ialah 872,000 token, yang sepadan dengan kira-kira 828k yang boleh digunakan. Tetapan anda mungkin mempunyai had yang berbeza, jadi patutlah Codex menyemak sebelum mengubahnya. Salah satu kompromi: menyimpan sejarah lebih banyak dalam konteks aktif boleh menggunakan lebih banyak kuota anda. Menaikkan had sahaja tidak menjadikan setiap permintaan menggunakannya keseluruhan tetingkap. Untuk Codex yang log masuk melalui ChatGPT, tiada multiplier konteks panjang yang berasingan, tetapi pemprosesan lebih banyak token masih dihitung. Menggunakan kekunci API anda sendiri mengikuti harga API. Jika anda ingin tetingkap terbesar yang disokong oleh tetapan anda, tampal ini ke dalam Codex: --------------------------- "Tingkatkan tetingkap konteks Codex saya kepada maksimum yang disokong oleh model, akaun, dan klien yang dipilih semasa saya. Semak konfigurasi pengguna aktif, menghormati CODEX_HOME dan sebarang penggantian profil atau projek yang berkesan. Kenal pasti model yang dipilih dan sahkan maksimum khusus klien menggunakan metadata model berkuasa semasa. Beza antara context_window lalai dengan max_context_window. Jangan andaikan 1M atau tetapkan 872000 secara keras. Jika maksimum tidak boleh disahkan, biarkan tetapan tidak berubah dan terangkan. Buat sandaran setiap fail yang anda sunting. Kekalkan tetapan, kredensial, penyedia, model, kelajuan, usaha penalaran, kelihatan Ultra, dan dasar kebenaran yang tidak berkaitan. Jangan cetak rahsia. Tetapkan model_context_window kepada maksimum yang disahkan pada skop konfigurasi yang sesuai. Dalam konfigurasi pengguna, ia mesti menjadi kunci aras atas sebelum bahagian pertama. Kemas kini kunci yang sedia ada bukannya menduplikasikannya. Semak untuk penggantian berkuasa lebih tinggi dan hormati dasar yang dikelola. Kekalkan pemadatan automatik diaktifkan. Laporkan ambang pemadatan eksplisit yang sedia ada secara berasingan bukannya mencipta ambang baru. Jangan ubah katalog model atau melintasi had. Sahkan konfigurasi dan pastikan hanya tetapan yang dimaksudkan berubah. Jangan mulakan semula aplikasi atau ganggu tugas yang sedang berjalan. Laporkan lokasi sandaran, perubahan tepat, dan tetingkap boleh digunakan yang dijangka. Gunakan effective_context_window_percent apabila metadata menyediakannya. Berikan arahan memulakan semula dan penyemakan. Beza antara tetapan yang disimpan dengan had sebenar yang dilaporkan oleh chat yang sedang berjalan." --------------------------- Selepas tugas aktif anda selesai, tutup sepenuhnya dan buka semula aplikasi, kemudian semak penunjuk konteks. Jika chat sedia ada kekal dengan had lamanya, semak chat baharu.