Anthropic đã triển khai tối ưu hóa giao diện người dùng cho trình hiển thị phản hồi luồng của Claude vào ngày 24 tháng Tám, nhắm mục tiêu vào vấn đề mà bất kỳ ai từng yêu cầu câu trả lời dài từ chatbot AI trên máy cũ đều quen thuộc: chu kỳ lặp lại và đóng băng khiến cuộc hội thoại trở thành một bản trình chiếu.
Cập nhật này áp dụng cho các ứng dụng web và desktop của Claude. Theo Anthropic, các câu trả lời dài hiện nay được phát trực tuyến mượt hơn khoảng 4 lần, tình trạng giật lag trên các laptop chậm giảm 9 lần, và các trường hợp treo nghiêm trọng giảm 4,5 lần. Trên phần cứng hỗ trợ, chẳng hạn như MacBook 120 Hz, bộ render có thể duy trì 120 fps trong quá trình phát đầu ra trực tiếp.
Điều gì thực sự đã thay đổi bên dưới lớp vỏ
Sửa lỗi cốt lõi mang tính đơn giản nhưng tinh tế. Trước đây, mỗi token đầu vào từ mô hình của Claude đều kích hoạt việc vẽ lại toàn bộ container phản hồi, hoặc ít nhất là một phần lớn của nó. Cách tiếp cận mới giới hạn các cập nhật giao diện người dùng chỉ vào những phần tử thực sự đã thay đổi, giúp giảm đáng kể chi phí tính toán mỗi token — điều này đặc biệt quan trọng trên các thiết bị có khả năng GPU hạn chế hoặc bộ xử lý cũ.
Quan trọng nhất, Anthropic không thực hiện bất kỳ thay đổi nào đối với các mô hình hoặc API của mình trong bản phát hành này. Tốc độ tạo nội dung, chất lượng đầu ra và quy trình suy luận nền tảng vẫn không thay đổi. Đây thuần túy là một cải tiến ở lớp trình bày.
Tại sao hiệu suất giao diện người dùng lại quan trọng trong cuộc đua AI
Con số tốc độ khung hình duy trì 120 fps đặc biệt cho thấy điều này. Hầu hết các ứng dụng web không cần quan tâm đến tốc độ khung hình, nhưng các trình hiển thị văn bản phát trực tiếp về cơ bản là các hoạt ảnh. Mỗi token mới là một cập nhật khung hình. Khi bạn tạo ra hàng trăm token cho một phản hồi dài, đó là hàng trăm cập nhật khung hình nối tiếp nhau, và bất kỳ sự gián đoạn nào cũng sẽ trở nên rõ ràng dưới dạng giật hoặc đóng băng.
Việc đạt 120 fps trên phần cứng tương thích có nghĩa là trình render của Anthropic hiện có thể khớp với tốc độ làm mới của các màn hình ProMotion của Apple mà không bị mất khung hình.
Vòng phản hồi và các giới hạn của nó
Phản hồi của người dùng trên mạng xã hội chủ yếu tích cực, với nhiều người nhận xét rằng sự cải thiện này rõ ràng ngay lập tức trong các cuộc trò chuyện kéo dài. Tuy nhiên, một số phản hồi đã làm nổi bật sự căng thẳng mà Anthropic và mọi công ty AI khác đang đối mặt: việc tinh chỉnh giao diện không giải quyết được mô hình. Một số người dùng chỉ ra rằng việc truyền tải mượt mà hơn không giúp ích khi Claude bịa đặt trích dẫn hoặc đưa ra thông tin sai lệch một cách tự tin.
Bản cập nhật này cũng có tác động đến tham vọng doanh nghiệp của Anthropic. Các người dùng doanh nghiệp thường chạy phần cứng tiêu chuẩn có xu hướng cũ hơn so với thiết bị mà các nhà phát triển và người dùng sớm sử dụng. Việc giảm 9 lần các lần treo trên laptop chậm không chỉ là một con số đẹp để đăng bài blog. Đó là sự khác biệt giữa một bản triển khai doanh nghiệp mà nhân viên thực sự sử dụng và một bản bị bỏ rơi vì chuyển sang đối thủ sau một tuần gặp phải các lần treo gây khó chịu.