Mensaje de ChainThink, 16 de agosto: OpenAI se prepara para optimizar la experiencia de carga de conversaciones muy largas en ChatGPT y Codex, con actualizaciones previstas para la próxima semana.
Las pruebas internas muestran que el tiempo promedio de apertura de una conversación de 741 rondas y 231 MB se redujo de 27,62 segundos a 1,66 segundos, lo que representa una mejora de aproximadamente el 94% en la velocidad de carga. Esta optimización se enfoca principalmente en la carga de historiales de chat, no en la velocidad de respuesta del modelo.
Durante la prueba, el número de elementos de diálogo que se deben cargar se redujo de 15.529 a 64, y el número de solicitudes disminuyó de 894 a 16, lo que supone una reducción del 41,2% en el crecimiento de memoria de la app.
