ChainThink thông báo, ngày 16 tháng 8, OpenAI đang chuẩn bị tối ưu trải nghiệm tải hội thoại siêu dài của ChatGPT và Codex, các bản cập nhật liên quan dự kiến ra mắt vào tuần tới.
Kết quả kiểm thử nội bộ cho thấy thời gian mở trung bình của một cuộc hội thoại 741 vòng, 231MB đã giảm từ 27,62 giây xuống còn 1,66 giây, tăng tốc độ tải lên khoảng 94%. Tối ưu hóa này chủ yếu tập trung vào việc tải lịch sử trò chuyện, không phải tăng tốc độ phản hồi của mô hình.
Trong quá trình kiểm thử, số lượng mục hội thoại cần tải về giảm từ 15.529 xuống còn 64, số lần yêu cầu giảm từ 894 xuống còn 16, và mức tăng bộ nhớ của ứng dụng giảm 41,2%.