ChainThink mensagem, 16 de agosto, a OpenAI está se preparando para otimizar a experiência de carregamento de conversas muito longas no ChatGPT e Codex, com atualizações previstas para serem lançadas na próxima semana.
Os testes internos mostraram que o tempo médio de abertura de uma conversa de 741 rodadas e 231 MB caiu de 27,62 segundos para 1,66 segundos, representando um aumento de aproximadamente 94% na velocidade de carregamento. Esta otimização foca principalmente no carregamento do histórico de bate-papo, e não na velocidade de resposta do modelo.
Durante o teste, o número de itens de diálogo a serem carregados foi reduzido de 15.529 para 64, e o número de requisições caiu de 894 para 16, resultando em uma redução de 41,2% no crescimento de memória do aplicativo.
