ChainThink melaporkan, pada 16 Ogos, OpenAI sedang bersiap untuk mengoptimumkan pengalaman memuatkan perbualan sangat panjang untuk ChatGPT dan Codex, dengan kemas kini berkaitan dijangka dilancarkan minggu depan.
Ujian dalaman menunjukkan, masa purata pembukaan percakapan 741 putaran, 231MB telah berkurang dari 27.62 saat kepada 1.66 saat, meningkatkan kelajuan pemuatan sebanyak kira-kira 94%. Peningkatan ini terutama ditujukan kepada pemuatan rekod perbualan, bukan kelajuan jawapan model.
Dalam ujian, jumlah entri dialog yang perlu dimuatkan berkurang dari 15,529 kepada 64, jumlah permintaan berkurang dari 894 kepada 16, dan pertumbuhan memori app berkurang sebanyak 41.2%.
