অ্যানথ্রোপিক ভিজুয়াল মেট্রিক্স সহ প্রম্পট ক্যাশিং ড্যাশবোর্ড চালু করেছে

ME সংবাদ, ২২ এপ্রিল (UTC+8), অ্যান্থ্রোপিকের Claude Developer Console-এ Prompt Caching Dashboard চালু হয়েছে, এক্সেসের লিঙ্ক: platform.claude.com/usage/cache। ড্যাশবোর্ডটি কাজের ক্ষেত্র, মডেল এবং সময়কাল অনুযায়ী ফিল্টার করা যায় এবং মূলত তিনটি ডেটা প্রদর্শন করে: ক্যাশ রিড রেশিও (cache read ratio), অর্থাৎ অনুরোধগুলির মধ্যে ইতিমধ্যে ক্যাশেড ডেটা মিলে যাওয়ার অনুপাত; ক্যাশ ব্যবহারের গঠন, যা ইনপুট token-কে অক্যাশেড, ৫ মিনিটের ক্যাশেড, ১ ঘন্টার ক্যাশেড এবং ক্যাশ রিডের চারটি শ্রেণিতে বিভক্ত করে স্ট্যাকড বার চার্টের মাধ্যমে উপস্থাপন করে; এবং লিখনের বিতরণ গুণক (write amortization), যা একটি ক্যাশ লিখনকে পরবর্তীতে কতবার পুনরায় ব্যবহার করা হয়েছে তা পরিমাপ করে। স্ক্রিনশটের উদাহরণে Claude Opus 4.6 ৭ দিনে 27.4 বিলিয়ন ইনপুট token-এর প্রক্রিয়াকরণ করেছে, 85.4% রিড রেশিও, 8.65x write amortization। নীচে 1 ঘন্টা থেকে 24 ঘন্টা পর্যন্ত সময়কালের জন্য ক্যাশ রিড রেশিওয়ের টাইমসিরিজ গ্রাফও রয়েছে। Anthropic-এর prompt caching机制-এ API-ব্যবহারকারীদেরকে সিস্টেম prompt, দীর্ঘ context-এর মতো স্থির কনটেন্টগুলিকে cache-যোগ্যভাবে mark-করতে দেওয়া হয়, প্রথমবারের লিখনের جন্য extra fee-এর দাম, but subsequent hits-এর جন্য standard input price-এর ~10%। Cache-এর default retention period 5 minutes, but paid option-এ 1 hour-এ extend-করা যায়। A以前, users could only indirectly infer caching effectiveness from the token count field in API responses, without any visualization tools. (সূত্র: BlockBeats)