Вы потратили деньги на самую дорогую крупную модель, но бэкенд тайно заменил её на более дешёвую версию — кто это заметит? Anthropic только что открыла исходный код интересного проекта FlashProve, пытающегося решить с помощью криптографии долгосрочную проблему доверия в индустрии ИИ: как доказать, что определённый сгенерированный ИИ контент действительно исходит от модели, которую заявляет провайдер? Сейчас, вызывая API крупной модели, мы в основном вынуждены доверять провайдеру. Не скрывает ли сторонняя платформа маршрутизации замену модели? Совпадают ли модель, протестированная организацией по оценке безопасности, и модель, которую реально использует обычный пользователь? А если сервер взломают — есть ли кто-то, кто тайно изменяет выводы модели? Эти вопросы сложно проверить только по ответам модели. FlashProve использует нулевое знание (ZK), хорошо знакомое в мире Web3 — конкретно zkSNARK. Принцип довольно прост: провайдер модели сначала создаёт криптографическое обязательство для набора весов модели — как будто регистрируя для неё неизменяемую идентичность. Затем каждый вывод сопровождается соответствующим доказательством. Пользователю не нужно знать параметры модели или запускать её самостоятельно — достаточно обычного CPU, чтобы проверить, действительно ли этот вывод сгенерирован моделью, чьё обязательство было заранее зафиксировано. Anthropic провела эксперимент с моделью Llama 4 Maverick с 400 миллиардами параметров: на одной видеокарте H100 можно генерировать около 110 токенов доказательства в секунду, а проверка одного доказательства занимает всего несколько десятков секунд. Однако текущие затраты всё ещё чрезвычайно высоки: вычислительные затраты на GPU для генерации доказательства составляют 70–95 раз больше, чем при обычном выводе, а каждое доказательство занимает около 19 МБ. На данный момент поддерживается только контекст до 1024 токенов и определённый способ вывода — до масштабного коммерческого внедрения ещё далеко. Но я считаю, что этот проект заслуживает внимания. В последние годы нулевые знания в основном использовались криптоиндустрией для проверки транзакций и вычислений. Теперь Anthropic пытается применить ту же криптографическую идею к услугам крупных моделей. Ещё более важно её потенциальное значение для регулирования ИИ. В будущем регуляторы могут требовать, чтобы модели проходили проверку безопасности перед развертыванием — тогда провайдеры должны будут доказать, что реально используемые веса совпадают с теми, которые прошли аудит. Независимые аудиторы смогут проверить, совпадают ли модель, протестированная ими, и модель, используемая клиентами. Конечно, криптография может лишь подтвердить соответствие вычислений заранее заявленному обязательству — она не гарантирует правильность ответов модели и тем более не обеспечивает её безопасность. Я всегда считал, что по мере того как AI-агенты начинают брать на себя всё больше реальных задач, отрасль неизбежно столкнётся с вопросом: на чём мы вообще основываем доверие к ИИ, запущенному на удалённом сервере? FlashProve пока остаётся исследовательским прототипом, но он хотя бы намечает перспективный технический путь для дальнейшего изучения.
