Meta vient de lancer Content Seal, un système de marquage invisible conçu pour identifier les images et vidéos créées par ses nouveaux modèles d'IA Muse. Cette technologie est censée résister aux transformations habituelles des réseaux sociaux : recadrage, redimensionnement, compression, etc.
Voici le problème. Un test indépendant réalisé par Reuters a révélé que Content Seal n’a pas identifié plus de 55 % des images générées par l’IA ayant été recadrées. Pour un outil conçu spécifiquement pour résister aux modifications, ce n’est pas un excellent premier impact.
Ce que fait réellement Content Seal
Lancé le 7 juillet, Content Seal intègre une filigrane invisible dans les images et vidéos produites par les modèles Muse Image et Muse Video de Meta, développés au sein des Meta Superintelligence Labs. Imaginez-le comme une empreinte numérique intégrée directement dans les pixels, qui devrait persister même après qu’une personne ait fait une capture d’écran, recadré ou compressé le fichier.
Meta a également lancé un outil de détection basé sur le web à l'adresse meta.ai/identification, où quiconque peut télécharger une image pour vérifier si elle porte le filigrane Content Seal.
Le mouvement est intervenu après que le Conseil de surveillance de Meta a publiquement pressé l'entreprise en mars de « respecter ses engagements publics et d'utiliser ses propres outils » pour lutter contre la propagation de contenus trompeurs générés par l'IA.
Mais la réponse s’est présentée comme une note de bas de page. Content Seal a été annoncé en même temps que les outils plus médiatiques de la génération Muse, enfoui dans le déploiement du produit plutôt que présenté comme l’étape cruciale en matière de confiance et de sécurité qu’il mériterait d’être.
Le problème de 55 % et le problème de fragmentation
Reuters a testé Content Seal seulement trois jours après son lancement, le 10 juillet. Les résultats ont été préoccupants. Bien que le système ait correctement identifié les images générées par l'IA originales et non modifiées, il a manqué plus de la moitié des versions recadrées. Cela compte, car le recadrage est l'une des actions les plus courantes que les gens effectuent avant de partager une image.
Il existe également un problème structurel plus profond. Content Seal opère entièrement en dehors des normes industrielles existantes. Meta est membre de la coalition C2PA, qui inclut Adobe, Microsoft et Google, et qui a développé Content Credentials comme standard ouvert pour les métadonnées de provenance. Google dispose de son propre système de marquage SynthID. Content Seal n’est compatible avec aucun des deux.
Cette fragmentation complique la tâche des plateformes, des vérificateurs de faits et des développeurs qui cherchent à créer des outils capables de détecter de manière fiable les contenus générés par l’IA à grande échelle. Au lieu d’une norme de vérification unique autour de laquelle l’Internet pourrait se mobiliser, l’écosystème se fragmente en silos propriétaires.
Pourquoi le monde des crypto-monnaies et de la blockchain devrait prêter attention
Les crédits de contenu C2PA utilisent déjà une signature cryptographique pour attacher des métadonnées vérifiables aux fichiers multimédias. La question que soulèvent naturellement les limites de Content Seal est de savoir si une couche de traçabilité décentralisée, ancrée sur une blockchain, pourrait accomplir cette tâche de manière plus fiable que toute marque d'eau propriétaire d'une seule entreprise.
Plusieurs projets dans l'écosystème Web3 ont exploré exactement cette idée : des registres de contenu immutables où l'historique de création d'un actif numérique est enregistré sur la chaîne et peut être vérifié par quiconque sans avoir à faire confiance à un intermédiaire corporatif.
La loi européenne sur l’IA prévoit déjà des exigences obligatoires d’étiquetage pour les contenus générés par l’IA, et quelle que soit la norme que les régulateurs finiront par approuver, elle exercera un énorme pouvoir sur le marché.