Mensahe ng ChainThink, noong Agosto 16, handa na ang OpenAI na mapabuti ang karanasan sa pag-load ng mahabang usapan para sa ChatGPT at Codex, at inaasahang maipapalabas ang mga update na susunod na linggo.
Ang internal testing ay nagpakita na ang average opening time ng isang 741-round, 231MB na talakayan ay bumaba mula sa 27.62 segundo hanggang 1.66 segundo, na nagresulta sa pagtaas ng loading speed ng halos 94%. Ang pagpapabuti na ito ay nakatuon sa pag-load ng history ng chat, hindi sa pagpapabilis ng sagot ng model.
Sa pagsubok, bumaba ang bilang ng mga entry ng usapan na dapat i-load mula sa 15,529 patungo sa 64, at bumaba ang bilang ng mga hiling mula sa 894 patungo sa 16, na nagresulta sa pagbawas ng 41.2% sa pagtaas ng memorya ng app.
