Ви витратили гроші на найбільшу модель, але бекенд таємно замінив її на дешевшу версію — хто це зможе виявити? Anthropic щойно відкрив відкритий код цікавого проекту FlashProve, який намагається вирішити довготривалу проблему довіри в індустрії ШІ за допомогою криптографії: як довести, що певний згенерований ШІ контент справді походить від моделі, яку заявляє постачальник? Зараз, коли ми викликаємо API великої моделі, ми мусимо просто довіряти постачальнику. Чи не замінює третій маршрутний платформа модель без вашого відома? Чи та сама модель, яку тестують органи з оцінки безпеки, — це саме та, яку використовують звичайні користувачі? І навіть після взлому сервера хакерами — чи не змінили хтось вихід моделі? Ці питання важко вирішити лише за відповідями моделі. FlashProve впроваджує нульове знання (ZK), яке добре відоме у світі Web3 — зокрема, zkSNARK. Принцип дуже простий: постачальник моделі спочатку створює криптографічний комітмент для набору ваг моделі — це як реєстрація незмінної ідентичності моделі. Потім кожен висновок супроводжується доказом. Користувачу не потрібно знати параметри моделі чи запускати її самостійно — достатньо звичайного CPU, щоб перевірити, чи справді цей вихід був згенерований попередньо зафіксованою моделлю. Anthropic протестував це на Llama 4 Maverick з 400 мiliardами параметрів: одна H100 може генерувати близько 110 токенів за секунду, а перевірка одного доказу займає лише кілька десятків секунд. Звичайно, поточні витрати все ще надзвичайно високі: обчислення доказу вимагає 70–95 разів більше GPU-потужності, ніж звичайний висновок, а кожен доказ має розмір близько 19 МБ. Наразі підтримується лише контекст до 1024 токенів і певний спосіб висновку — до масового комерційного використання ще дуже далеко. Але я вважаю, що ця ідея варта уваги. Останні кілька років нульове знання використовувалося в крипто-галузі переважно для перевірки транзакцій і обчислень. Зараз Anthropic намагається застосувати той самий криптографічний підхід до сервісів великих моделей. Ще більш важливою є його потенційна роль у регулюванні ШІ. У майбутньому регулятори можуть вимагати, щоб модель пройшла безпекову перевірку перед запуском — і тоді постачальник зможе довести, що реально запущена модель — це саме та, що пройшла схвалення. Незалежні аудиторські органи зможуть перевірити, чи збігається модель, яку вони тестували, з той, яку використовують клієнти. Зрозуміло, криптографія може лише довести, що обчислення виконуються згідно з попереднім комітментом — але не гарантує правильності відповідей моделі чи її безпеку. Я завжди вважав, що з тим, як AI-агенти почнуть брати на себе все більше реальних завдань, індустрія рано чи пізно змушенна буде вирішити питання: на чому ми базуємо довіру до того AI, що працює на вдаленому сервері? FlashProve — це ще лише дослідний прототип, але він хоча б показує шлях, який варто подальшого дослідження.
