Anthropic Meluncurkan Dashboard Pemcache Prompt dengan Metrik Visual

Berita ME, 22 April (UTC+8), menurut pemantauan Beating, Claude Developer Console meluncurkan Dashboard Prompt Caching, dapat diakses di platform.claude.com/usage/cache. Dashboard ini dapat disaring berdasarkan workspace, model, dan periode waktu, serta menampilkan tiga data utama: rasio pembacaan cache (cache read ratio), yaitu proporsi permintaan yang berhasil memanfaatkan cache yang sudah ada; komposisi penggunaan cache, yang membagi token input menjadi empat kategori—tidak di-cache, ditulis ke cache 5 menit, ditulis ke cache 1 jam, dan dibaca dari cache—dalam bentuk grafik batang bertumpuk; serta write amortization, yang mengukur seberapa banyak kali satu penulisan cache digunakan ulang oleh pembacaan berikutnya. Dalam contoh tangkapan layar, Claude Opus 4.6 memproses 27,4 miliar token input dalam 7 hari, dengan rasio pembacaan 85,4% dan write amortization sebesar 8,65 kali. Di bagian bawah juga terdapat grafik waktu rasio pembacaan cache dengan resolusi dari 1 jam hingga 24 jam. Mekanisme prompt caching Anthropic memungkinkan pengguna API menandai konten tetap seperti sistem prompt dan konteks panjang sebagai dapat di-cache; penulisan pertama dikenai biaya tambahan, sedangkan keberhasilan pemuatan ulang dikenai biaya sekitar sepertiga dari harga input standar. Cache secara default disimpan selama 5 menit, tetapi dapat diperpanjang hingga 1 jam dengan pembayaran. Sebelumnya, pengguna hanya dapat secara tidak langsung menilai efektivitas cache melalui bidang token count dalam respons API, tanpa alat visualisasi. (Sumber: BlockBeats)