Anthropic ra mắt bảng điều khiển lưu trữ lệnh nhắc với các chỉ số trực quan

Tin tức từ ME News, ngày 22 tháng 4 (UTC+8), theo giám sát của Beating, Claude Developer Console đã ra mắt Bảng điều khiển Cache Prompt, đường dẫn tại platform.claude.com/usage/cache. Bảng điều khiển cho phép lọc theo không gian làm việc, mô hình và khoảng thời gian, chủ yếu hiển thị ba dữ liệu: tỷ lệ đọc cache (cache read ratio) – tỷ lệ các yêu cầu trúng cache đã tồn tại; cấu trúc sử dụng cache – chia token đầu vào thành bốn loại: chưa được cache, ghi cache 5 phút, ghi cache 1 giờ và đọc cache, được trình bày dưới dạng biểu đồ thanh xếp chồng; hệ số phân bổ chi phí ghi (write amortization) – đo lường số lần một lần ghi cache được tái sử dụng bởi các lần đọc sau đó. Trong ví dụ chụp màn hình, Claude Opus 4.6 đã xử lý 27,4 tỷ token đầu vào trong 7 ngày, với tỷ lệ đọc 85,4% và hệ số phân bổ chi phí ghi 8,65 lần. Phía dưới còn có biểu đồ chuỗi thời gian về tỷ lệ đọc cache theo độ phân giải từ 1 giờ đến 24 giờ. Cơ chế cache prompt của Anthropic cho phép người dùng API đánh dấu các nội dung cố định như hệ thống prompt, ngữ cảnh dài... là có thể cache; lần ghi đầu tiên sẽ bị tính phí bổ sung, các lần trúng cache sau đó sẽ được tính phí khoảng một phần mười giá đầu vào tiêu chuẩn. Cache mặc định được lưu giữ 5 phút, có thể gia hạn lên 1 giờ bằng cách trả phí. Trước đây, người dùng chỉ có thể suy luận gián tiếp hiệu quả cache thông qua trường đếm token trong phản hồi API, không có công cụ trực quan hóa. (Nguồn: BlockBeats)