Как и предсказывалось, ИИ нуждается в криптографии для верификации. В многопользовательской среде с хостинговыми облаками и маршрутизаторами моделей эта потребность только растет. Людям необходимо подтверждать, что они получают ту самую модель, за которую платят, а также доказывать регуляторам, какие именно модели и веса они используют, поскольку эти модели становятся основой для безопасности и корпоративных рабочих процессов в регулируемых отраслях. ZKP всегда планировалось как дополнительное решение для ИИ, когда сервис требует доверия третьих сторон к «черному ящику» ИИ. Однако стоит отметить, что потребность Anthropic в доказательстве вывода отличается от использования ZKP в криптовалюте. Крипто-проекты оптимизированы для дешевой верификации в цепочке, поэтому им требовались маленькие доказательства и приемлемы медленные генераторы. Anthropic оптимизирована для аудиторов и регуляторов вне цепочки, поэтому она приняла доказательства размером 19 МБ и получила быстрый генератор. Anthropic выбрала STARK-доказательства, которые могут быстро генерировать доказательства — пакет из 24 запросов проверяется примерно за 223 секунды, что составляет около 110 токенов/с. Это примерно в 72 раза больше времени работы GPU по сравнению с обслуживанием тех же запросов на vLLM. Это побудило их принять STARK-доказательства, которые одновременно устойчивы к квантовым атакам и совместимы с GPU. Но — и это огромное «но» — то, что Anthropic действительно доказывает третьим сторонам, — это лишь то, что веса модели в хеш-обязательстве были теми самыми, которые были использованы в виде целых чисел в ответ на один единственный запрос. Этого недостаточно, чтобы доказать, какая именно модель была фактически запущена; можно лишь подтвердить, что веса соответствовали заявленным. Это подразумевает наличие довольно интуитивных способов манипуляции этим процессом: можно зафиксировать более дешевую модель с похожими весами, избирательно переписывать запросы и обходить остальную трафик, который не выбирается или не доказывается; случайный отбор может направлять токены в пределах погрешности доказательства. https://t.co/VHR8DG0vbx
