ChainThink повідомляє, 16 серпня OpenAI підготувується оптимізувати досвід завантаження довгих діалогів у ChatGPT і Codex, оновлення очікуються на наступному тижні.
Результати внутрішнього тестування показали, що середній час відкриття діалогу з 741 циклом і об’ємом 231 МБ знизився з 27,62 секунди до 1,66 секунди — швидкість завантаження зросла приблизно на 94%. Ця оптимізація стосується виключно завантаження історії чату, а не швидкості відповідей моделі.
Під час тестування кількість завантажених елементів діалогу зменшилася з 15 529 до 64, кількість запитів зменшилася з 894 до 16, а зростання пам’яті додатку зменшилося на 41,2%.
