Анонс Beating AI: Anthropic открыла исходный код FlashProve, перенеся технологию zkSNARK (доказательство с нулевым разглашением), широко используемую в криптовалютной сфере, в область вывода ИИ-моделей. Эта технология изначально позволяла подтверждать корректность транзакций в блокчейне без раскрытия деталей транзакции. Anthropic хочет применить её для решения другой проблемы: как пользователю, заплатившему высокую цену за API ИИ-модели, убедиться, что провайдер не заменил её на более дешёвую версию? FlashProve позволяет провайдеру сначала создать шифрованную指纹 модели, а затем предоставить математическое доказательство результата вывода. Пользователь может проверить, что указанный вывод был получен именно из заранее заявленного набора весов, не получая доступ к самим весам модели и не запуская её повторно. Claude также участвовал в разработке и оптимизации этой системы. Anthropic уже провела эксперименты на модели Meta Llama 4 Maverick с 400 миллиардами параметров. Для контекста из 1024 токенов размер генерируемого доказательства составляет около 19 МБ, а его проверка на обычном ЦП занимает примерно 17 секунд. Однако на данный момент каждое доказательство может проверить только один выходной токен, а не весь ответ целиком. Время вычисления доказательства на GPU достигает 70–95 раз больше времени обычного вывода. Будет ли в будущем возможно использовать эту технологию для выявления провайдеров, скрывающих замену модели, зависит от того, когда стоимость генерации доказательств удастся существенно снизить.
Anthropic применяет доказательства с нулевым разглашением к инференсу ИИ для предотвращения подмены модели
MarsBitПоделиться
Anthropic открыла исходный код FlashProve — системы, применяющей технологию доказательства с нулевым разглашением из криптоиндустрии к выводу ИИ. Инструмент позволяет поставщикам генерировать криптографические отпечатки для весов модели и проверять выходные данные без повторного запуска модели. При тестировании на Llama 4 Maverick каждый контекст из 1024 токенов создает доказательство размером 19 МБ, которое проверяется за 17 секунд на стандартном ЦП. Однако вычисления на GPU занимают в 70–95 раз больше времени, чем обычный вывод. Эта новость об ИИ и криптовалюте подчеркивает новое пересечение в новостях криптоиндустрии.
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.
