ChainThinkのメッセージによると、8月16日、OpenAIはChatGPTとCodexの長時間対話の読み込み体験を最適化する準備を進めており、関連する更新は来週リリースされる予定です。
内部テストでは、741ラウンド、231MBの会話の平均開封時間が27.62秒から1.66秒に低下し、読み込み速度が約94%向上しました。この最適化は主にチャット履歴の読み込みに焦点を当てており、モデルの回答速度の向上ではありません。
テスト中、読み込む必要のあるメッセージエントリが15,529件から64件に減少し、リクエスト回数が894回から16回に減少し、アプリのメモリ増加が41.2%削減されました。