A Meta acabou de lançar o Content Seal, um sistema de marca-d'água invisível projetado para identificar imagens e vídeos criados por seus novos modelos de IA Muse. A tecnologia é suposta para sobreviver ao habitual conjunto de transformações de redes sociais: recorte, redimensionamento, compressão, e mais.
A questão é a seguinte. Testes independentes realizados pela Reuters descobriram que o Content Seal não identificou mais de 55% das imagens geradas por IA recortadas. Para uma ferramenta desenvolvida especificamente para resistir a edições, essa não é uma ótima primeira impressão.
O que o Content Seal realmente faz
Lançado em 7 de julho, o Content Seal incorpora uma marca-d’água invisível em imagens e vídeos produzidos pelos modelos Muse Image e Muse Video da Meta, desenvolvidos nos Meta Superintelligence Labs. Pense nisso como uma impressão digital digital incorporada nos próprios pixels, que supostamente persiste mesmo após alguém fazer uma captura de tela, cortar ou comprimir o arquivo.
A Meta também lançou uma ferramenta de detecção baseada na web em meta.ai/identification, onde qualquer pessoa pode fazer o upload de uma imagem e verificar se ela contém a marca-d'água Content Seal.
A medida ocorreu após o Conselho de Supervisão da Meta pressionar publicamente a empresa em março para “cumprir seus compromissos públicos e empregar suas próprias ferramentas” combater a disseminação de conteúdo enganoso de IA generativa.
Mas a resposta acabou sendo algo mais próximo de uma nota de rodapé. O Content Seal foi anunciado junto às ferramentas da geração Muse, mais chamativas, enterrado na divulgação do produto em vez de ser posicionado como o marco de confiança e segurança que, argumentativamente, deveria ter sido.
O problema de 55% e o problema de fragmentação
A Reuters testou o Content Seal apenas três dias após o lançamento, em 10 de julho. Os resultados foram preocupantes. Embora o sistema tenha identificado corretamente imagens geradas por IA originais e não modificadas, ele não detectou mais da metade das versões recortadas. Isso é importante porque o recorte é uma das coisas mais comuns que as pessoas fazem antes de compartilhar uma imagem.
Também há um problema estrutural mais profundo em jogo. O Content Seal opera totalmente fora dos padrões da indústria existentes. A Meta é membro da coalizão C2PA, que inclui Adobe, Microsoft e Google, e que desenvolveu os Content Credentials como um padrão aberto para metadados de proveniência. O Google possui seu próprio sistema de marca-d’água SynthID. O Content Seal não é compatível com nenhum deles.
Essa fragmentação torna a vida mais difícil para plataformas, verificadores de fatos e desenvolvedores tentando criar ferramentas que possam detectar confiavelmente em escala conteúdo gerado por IA. Em vez de um padrão de verificação único ao qual a internet possa se unir, o ecossistema está se dividindo em silos proprietários.
Por que o mundo de criptomoedas e blockchain deve prestar atenção
As C2PA Content Credentials já utilizam assinatura criptográfica para anexar metadados verificáveis a arquivos de mídia. A questão que as limitações do Content Seal naturalmente levantam é se uma camada de proveniência descentralizada, ancorada em blockchain, poderia desempenhar essa função de forma mais confiável do que qualquer marca d'água proprietária de uma única empresa.
Vários projetos no espaço Web3 exploraram exatamente essa ideia: registros imutáveis de conteúdo onde a história de criação de um ativo digital é registrada na cadeia e pode ser verificada por qualquer pessoa sem confiar em um intermediário corporativo.
O AI Act da UE já prevê requisitos obrigatórios de rotulagem para conteúdo gerado por IA, e qualquer padrão que os reguladores eventualmente aprovarem terá enorme poder de mercado.