Anthropic застосовує докази із нульовим розголошенням до висновування ШІ для запобігання підміні моделей

icon MarsBit
Поділитися
AI summary iconКороткий зміст
Anthropic відкрила код FlashProve — систему, яка застосовує технологію доказу із нульовим розголошенням із криптоіндустрії до висновування ШІ. Цей інструмент дозволяє постачальникам генерувати криптографічні відбитки для ваг моделей та перевіряти вихідні дані без повторного запуску моделі. Тестування на Llama 4 Maverick показало, що кожен контекст з 1024 токенів створює доказ розміром 19 МБ, який перевіряється за 17 секунд на звичайному процесорі. Однак обчислення на GPU тривають у 70–95 разів довше, ніж звичайне висновування. Ця новина про ШІ та криптовалюту підкреслює новий перетин у новинах криптоіндустрії.

Огляд Beating AI: Anthropic відкрила FlashProve, переносячи технологію zkSNARK (докази з нульовим розголошенням), що широко використовується в криптовалюті, до інференсу моделей ШІ. Ця технологія раніше дозволяла підтверджувати дійсність транзакцій у блокчейні, не розголошуючи деталей транзакції. Anthropic хоче застосувати її для вирішення іншої проблеми: як користувач, який заплатив високу ціну за API певної моделі ШІ, переконатися, що постачальник не замінив її на менш витратну версію? FlashProve дозволяє постачальнику спочатку створити криптографічний відбиток ваг моделі, а потім надати математичний доказ для результату інференсу. Користувач може перевірити, чи походить зазначений вихід саме з тих ваг, які були попередньо оголошені, не отримуючи доступу до ваг моделі і не запускаючи її заново. Claude також брав участь у розробці та оптимізації цієї системи. Anthropic вже провела експерименти на моделі Meta Llama 4 Maverick з 400 мільярдами параметрів. Для обробки контексту з 1024 токенів генерується доказ розміром приблизно 19 МБ, а його перевірка на звичайному CPU займає близько 17 секунд. Однак наразі кожен доказ може перевірити лише один вихідний токен, а не цілий відповідь. Час обчислення доказу на GPU становить приблизно 70–95 разів більше, ніж звичайний інференс. Чи зможе ця технологія в майбутньому виявити постачальників API, які приховано замінюють моделі, залежить від того, коли витрати на генерацію доказу знизяться.

Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.