A IA está ficando melhor em gerar respostas, mas como sabemos que essas respostas realmente vieram do modelo que pretendíamos usar? Acho que esse é um desafio muito maior do que pode parecer. É por isso que o FlashProve da Anthropic chamou minha atenção. Ele introduz uma maneira de verificar que uma resposta foi gerada por um modelo específico de IA sem expor os pesos do modelo. O que torna isso ainda mais interessante é a criptografia por trás disso. O FlashProve usa técnicas STARK baseadas em hash para construir suas provas, trazendo propriedades de segurança pós-quântica para o processo de verificação. Há alguns detalhes que acho particularmente importantes: Técnicas criptográficas já utilizadas em sistemas como o Starknet. Provas baseadas em hash que não dependem de suposições de curvas elípticas. Verificação formal em Lean, ajudando a estabelecer confiança na correção do protocolo. Trabalhos fundamentais anteriores envolvendo Cairo e Stwo. Outra conexão interessante é Alessandro Chiesa, cofundador da StarkWare, estar entre os pesquisadores por trás desse trabalho. Para mim, isso mostra como a tecnologia desenvolvida para computação verificável pode ir além da blockchain. À medida que a IA se torna parte de decisões mais importantes, confiar no que um modelo diz pode não ser mais suficiente. Também precisamos de maneiras de verificar se o modelo realmente produziu a saída. É aí que acho que a combinação de IA e provas criptográficas se torna realmente valiosa. @Starknet a tecnologia criptográfica subjacente agora é relevante para uma conversa muito mais ampla do que apenas a blockchain.
T.MessioCompartilhar
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações.
Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.