Você gastou dinheiro comprando o maior modelo mais caro, mas o sistema trocou secretamente por uma versão mais barata — quem poderia descobrir? A Anthropic acabou de lançar de código aberto um projeto interessante chamado FlashProve, que tenta resolver, com criptografia, o problema de confiança de longa data na indústria de IA: como provar que um conteúdo gerado por IA realmente veio do modelo declarado pelo provedor? Atualmente, ao chamar uma API de grande modelo, basicamente confiamos apenas no provedor. Será que plataformas de roteamento de terceiros trocaram secretamente o modelo? O modelo testado por agências de avaliação de segurança é o mesmo que os usuários comuns estão usando? E quando o servidor é invadido por hackers, alguém alterou secretamente a saída do modelo? Essas questões são difíceis de verificar apenas pela resposta do modelo. FlashProve introduz a prova de conhecimento zero (ZK), muito familiar no ecossistema Web3 — especificamente, zkSNARK. O princípio é bastante simples: o provedor do modelo gera primeiro uma promessa criptográfica para um conjunto de pesos do modelo, como se registrasse uma identidade imutável para ele. A cada inferência subsequente, é anexada uma prova. O usuário não precisa conhecer os parâmetros do modelo nem executá-lo; basta um CPU comum para verificar se essa saída foi realmente gerada pelo modelo previamente prometido. A Anthropic realizou experimentos com o Llama 4 Maverick, com 400 bilhões de parâmetros. Em um único H100, é possível gerar cerca de 110 tokens por segundo com prova, e validar uma única prova leva apenas alguns segundos. Claro, os custos ainda são extremamente altos. O consumo de GPU para gerar a prova equivale a 70 a 95 vezes o custo da inferência normal, e cada prova tem quase 19 MB. Atualmente, suporta apenas contextos de 1024 tokens e métodos específicos de inferência — ainda há um longo caminho até a adoção comercial em larga escala. Mas acho que este projeto merece atenção. Nos últimos anos, as provas de conhecimento zero foram usadas principalmente pela indústria cripto para validar transações e cálculos. Agora, a Anthropic está tentando aplicar a mesma ideia criptográfica aos serviços de grandes modelos. O que é ainda mais relevante é seu potencial na governança da IA. No futuro, quando reguladores exigirem que modelos passem por avaliações de segurança antes da implantação, os provedores precisarão provar que o modelo em execução é exatamente aquele que passou na auditoria. Instituições de auditoria independentes também poderão verificar se o modelo que testaram é o mesmo que os clientes estão usando. Claro, a criptografia só pode provar que o processo de cálculo está em conformidade com a promessa prévia — não garante que as respostas do modelo estejam corretas, nem que o próprio modelo seja seguro. Sempre acreditei que, à medida que agentes de IA assumirem mais tarefas práticas, toda a indústria acabará enfrentando uma pergunta fundamental: em que base confiamos no AI rodando em servidores remotos? FlashProve ainda é apenas um protótipo de pesquisa, mas pelo menos oferece uma rota técnica valiosa para ser explorada.