Як і передбачалося, штучний інтелект потребує криптографії для верифікації. У багатокористувацькому середовищі з хмарними хостингами та моделями маршрутизаторів ця потреба зростає. Людям потрібно підтверджувати, що вони отримують саме ту модель, за яку платять, а також доводити регуляторам, яку модель/ваги вони використовують, оскільки ці моделі стають основою для безпеки та підприємницьких робочих процесів у регульованих галузях. ZKP завжди була запланована як доповнювальний розв’язок для ШІ, коли послуга вимагає довіри до чорного ящика ШІ з боку третьої сторони. Але зверніть увагу: потреба Anthropic у підтвердженні висновків відрізняється від використання ZKP у криптовалюті. Крипто-напрямлені проекти оптимізовані для дешевої верифікації в ланцюгу, тому їм потрібні маленькі докази та прийнятні повільні превери. Anthropic оптимізувала для аудиторів та регуляторів поза ланцюгом, тому прийняла докази розміром 19 МБ та отримала швидкий превер. Anthropic обрала STARKs, які можуть швидко генерувати докази — партія з 24 запитів підтверджується за 223 секунди, що дає приблизно 110 токенів/с. Це приблизно в 72 рази більше часу GPU, ніж при обслуговуванні тих самих запитів на vLLM. Це привело їх до впровадження STARK-доказів, які є квантово-безпечними та дружніми до GPU. Але й є величезний але — те, що Anthropic справді доводить третім сторонам, — це лише те, що ваги моделі в хеш-зобов’язанні були тими самими, що й використовувалися як цілі числа у відповідь на один запит. Цього недостатньо, щоб довести, яка саме модель була фактично запущена; це лише підтверджує, що ваги були тими, що були зафіксовані. Це означає, що існують досить інтуїтивні способи зловживання цим: зафіксувати дешевшу модель з подібними вагами, селективно переписувати запити та обманювати решту трафіку, який не підлягає зразкованню чи верифікації; випадковий вибір може керувати токенами в межах похибки доказу. https://t.co/VHR8DG0vbx