ChainThink melaporkan, pada 16 Agustus, OpenAI sedang bersiap untuk mengoptimalkan pengalaman memuat percakapan sangat panjang di ChatGPT dan Codex, dengan pembaruan terkait dijadwalkan diluncurkan minggu depan.
Pengujian internal menunjukkan bahwa waktu rata-rata pembukaan percakapan sepanjang 741 putaran dan 231 MB turun dari 27,62 detik menjadi 1,66 detik, meningkatkan kecepatan pemuatan sekitar 94%. Optimasi ini terutama ditujukan pada pemuatan riwayat obrolan, bukan peningkatan kecepatan jawaban model.
Dalam pengujian, jumlah entri percakapan yang perlu dimuat berkurang dari 15.529 menjadi 64, jumlah permintaan berkurang dari 894 menjadi 16, dan pertumbuhan memori App berkurang sebesar 41,2%.
