あなたは高価な大規模モデルを購入したのに、バックエンドでは勝手に安価なバージョンに置き換えられている。誰がそれに気づけるだろうか？ Anthropic はこのほど、AI業界の長年の信頼問題を暗号学的に解決しようとする興味深いプロジェクト「FlashProve」をオープンソース化した。AIが生成したコンテンツが、サービス提供者が主張するモデルから本当に生成されたことを、どう証明するのか？ 現在、大規模モデルのAPIを呼び出す際、私たちは基本的にサービスプロバイダーを信頼するしかない。サードパーティのルーティングプラットフォームがモデルを勝手に置き換えていないか？セキュリティ評価機関がテストしたモデルと、一般ユーザーが実際に使用しているモデルは同一なのか？サーバーがハッカーに侵入された際、モデルの出力が不正に改ざんされていないか？こうした疑問は、モデルの回答だけでは判断できない。 FlashProve はWeb3コミュニティでよく知られているゼロ知識証明（ZK）、具体的にはzkSNARKを導入している。 その原理は非常に単純だ。モデルプロバイダーはまず、一連のモデル重みに対して暗号学的コミットメントを生成し、これはモデルに変更不能な身分を登録するようなものである。その後、毎回の推論時に証明を添付する。ユーザーはモデルのパラメータを知る必要も、自らモデルを実行する必要もなく、通常のCPUだけで、その出力が事前にコミットされたモデルによって生成されたものであるかを検証できる。 Anthropic は4000億パラメータのLlama 4 Maverickを用いて実験を行い、1枚のH100 GPUで毎秒約110トークンの推論証明を生成でき、1つの証明の検証には十数秒しかかからない。 ただし、現在のコストは依然として非常に高い。証明の生成に必要なGPUリソースは通常の推論の70～95倍に達し、各証明は約19MBにもなる。また、現時点では1024トークンまでのコンテキストと特定の推論方式のみをサポートしており、大規模な商用化にはまだ長い道のりがある。 しかし、私はこの取り組みに注目すべきだと考える。 過去数年間、ゼロ知識証明は主に暗号業界で取引や計算の検証に用いられてきた。今、Anthropic は同じ暗号学的アイデアを大規模モデルサービスに導入しようとしている。 さらに注目すべきは、AIガバナンスにおける可能性だ。将来的に規制当局がモデルのセキュリティ評価を通過した後でのみデプロイを許可する場合、サービスプロバイダーは実際に実行されているのが審査済みの重みであることを証明する必要がある。独立した監査機関も、自らテストしたモデルと顧客が使用しているモデルが同一であることを検証できるようになる。 もちろん、暗号学は計算プロセスが事前のコミットメントに従っていることを証明するだけであり、モデルの回答が正しいことや、モデル自体が安全であることは保証できない。 私は常に思っている。AIエージェントがますます多くの実務を担うようになる中で、業界全体はいずれ次の問いに直面するだろう。私たちは、リモートサーバーで動作しているAIを、一体何を根拠に信頼すればよいのか？ FlashProve はまだ研究用プロトタイプだが、少なくとも今後さらに探求すべき技術的道筋を示している。