ME News: 22 квітня (UTC+8), за даними Beating, на Claude Developer Console запущено панель кешування запитів за адресою platform.claude.com/usage/cache. Панель дозволяє фільтрувати дані за робочим середовищем, моделлю та періодом часу і відображає три основні показники: коефіцієнт читання кешу (cache read ratio) — частка запитів, що виявилися в кеші; структура використання кешу — розподіл вхідних токенів на чотири категорії: не кешовані, записані в кеш на 5 хвилин, записані в кеш на 1 годину та прочитані з кешу, відображено у вигляді стовпчикової діаграми з накопиченням; коефіцієнт амортизації запису (write amortization) — показує, скільки разів один запис у кеш був повторно використаний під час читання. У прикладі знімка екрана Claude Opus 4.6 за 7 днів обробив 27,4 мільярда вхідних токенів, коефіцієнт читання становив 85,4%, а коефіцієнт амортизації — 8,65. У нижній частині також наведено часовий графік коефіцієнта читання кешу з роздільною здатністю від 1 до 24 годин. Механізм кешування запитів Anthropic дозволяє користувачам API позначати як кешовані статичні елементи, такі як системні підказки та довгий контекст; за перший запис стягується додаткова плата, а наступні збіги оплачуються приблизно за десяту частину стандартної ціни за вхідні токени. Кеш за замовчуванням зберігається 5 хвилин, але може бути продовжений до 1 години за додаткову плату. Раніше користувачі могли лише непрямо оцінювати ефективність кешування за допомогою поля з підрахунком токенів у відповідях API, не маючи інструментів візуалізації. (Джерело: BlockBeats)
Anthropic запускає панель кешування запитів із візуальними метриками
KuCoinFlashПоділитися
Короткий зміст
Anthropic оголосила про панель кешування запитів для консолі розробника Claude, що надає візуальне відстеження частоти успішного кешування та ефективності витрат. Інструмент, доступний за посиланням platform.claude.com/usage/cache, дозволяє розробникам фільтрувати дані за робочим середовищем, моделлю та періодом часу. Наприклад, Claude Opus 4.6 показав 85,4% частоту читання з кешу протягом семи днів. Метрики включають відношення читання з кешу, структуру використання та амортизацію записів. Панель також відображає тенденції частоти читання від годинних до добових. Кешування запитів дозволяє розробникам зберігати фіксований контент із початковими витратами на запис та на 10% нижчими витратами на читання. Тривалість кешу може бути продовжена до години за додаткову плату. Це оновлення надає розробникам більш чітку інформацію про події у блокчейні. Новини щодо процентних ставок залишаються ключовим фактором для криптофірм, які керують витратами на API.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.