Anthropic 於 8 月 24 日推出前端優化,針對 Claude 的串流回應渲染器進行改進,解決了任何曾在舊機器上嘗試從 AI 聊天機器人獲取長答案時都熟知的問題:令人煩躁的卡頓與凍結循環,使對話變成了幻燈片。
此更新適用於 Claude 的網頁和桌面應用程式。根據 Anthropic 的說法,長答案的串流現在流暢度提升了約 4 倍,在較慢的筆電上停頓情況減少 9 倍,最壞情況下的凍結現象縮短了 4.5 倍。在支援的硬體上,例如 120 Hz 的 MacBook,渲染器在串流輸出時可維持 120 fps。
底層實際上發生了什麼變化
核心修復的設計簡潔而優雅。過去,來自 Claude 模型的每個輸入標記都會觸發整個回應容器的重繪,或至少是其中大部分內容。新方法僅更新實際發生變化的元素,從而大幅降低每個標記的運算開銷,這在 GPU 資源有限或較舊的處理器上尤為重要。
關鍵的是,Anthropic 在此版本中未對其模型或 API 進行任何更改。生成速度、輸出品質和底層推理管道均保持不變。這純粹是呈現層面的改進。
為何使用者介面效能在人工智慧競賽中至關重要
120 fps 的持續幀率數據尤其具有說明性。大多數網頁應用程式根本無需考慮幀率,但串流文字渲染器本質上是動畫。每個新標記都是一次幀更新。當你為長回應生成數百個標記時,這意味著有數百次順序幀更新,任何卡頓都會以卡頓或凍結的形式顯現出來。
在相容硬體上達到 120 fps,意味著 Anthropic 的渲染器現在可以與 Apple 的 ProMotion 顯示屏刷新率同步,且不會丟幀。
回饋迴路及其限制
用戶在社交媒體上的反饋整體正面,許多用戶表示在長時間對話中立即察覺到改善。但部分回應也突顯了 Anthropic 及所有其他 AI 公司面臨的張力:優化介面並不能解決模型本身的問題。多位用戶指出,當 Claude 虛構引用或自信地提供錯誤資訊時,更流暢的串流並無幫助。
此更新也對 Anthropic 的企業願景產生影響。企業用戶通常使用標準化的硬體,這些硬體往往比開發人員和早期採用者使用的更舊。在較慢的筆記型電腦上減少 9 倍的停滯,不僅僅是部落格文章中一個好看的數據,更是企業部署能否被員工實際使用,還是會在一周的令人煩躁的凍結後被放棄並轉向競爭對手的關鍵差異。
