Vous avez payé pour le modèle le plus cher, mais l’arrière-plan remplace secrètement celui-ci par une version moins coûteuse — qui pourrait le détecter ? Anthropic vient tout juste d’ouvrir un projet intéressant appelé FlashProve, qui tente de résoudre, à l’aide de la cryptographie, le problème de confiance persistant dans l’industrie de l’IA : comment prouver qu’un contenu généré par une IA provient bien du modèle revendiqué par le fournisseur ? Actuellement, lorsqu’on appelle une API de modèle de grande taille, on doit essentiellement faire confiance au fournisseur. Les plateformes de routage tiers remplacent-elles secrètement les modèles ? Le modèle testé par les organismes d’évaluation de sécurité est-il le même que celui utilisé par les utilisateurs ordinaires ? Et même après une intrusion informatique, quelqu’un a-t-il modifié les sorties du modèle ? Ces questions sont difficiles à vérifier uniquement en se basant sur les réponses du modèle. FlashProve introduit la preuve à connaissance nulle (ZK), familière dans l’écosystème Web3, plus précisément les zkSNARK. Le principe est simple : le fournisseur du modèle génère d’abord une promesse cryptographique pour un ensemble de poids de modèle, équivalente à l’enregistrement d’une identité immuable pour ce modèle. À chaque inférence, une preuve est jointe. L’utilisateur n’a pas besoin de connaître les paramètres du modèle ni de l’exécuter lui-même — il peut simplement vérifier, avec un CPU ordinaire, si cette sortie a bien été générée par le modèle précédemment promis. Anthropic a testé cela avec le modèle Llama 4 Maverick de 400 milliards de paramètres : une seule GPU H100 peut produire environ 110 tokens par seconde avec preuve, et la vérification d’une preuve prend seulement quelques secondes. Cependant, les coûts restent encore très élevés. La charge GPU pour générer une preuve équivaut à 70 à 95 fois celle d’une inférence normale, et chaque preuve fait près de 19 Mo. Pour l’instant, cela ne prend en charge que des contextes de 1024 tokens et des méthodes d’inférence spécifiques — il reste un long chemin avant une adoption commerciale à grande échelle. Mais je pense que ce projet mérite notre attention. Ces dernières années, les preuves à connaissance nulle ont principalement été utilisées dans l’industrie cryptographique pour vérifier des transactions et des calculs. Maintenant, Anthropic tente d’appliquer cette même approche cryptographique aux services de grands modèles. Ce qui est encore plus remarquable, c’est son potentiel pour la gouvernance de l’IA. À l’avenir, lorsque les autorités réglementaires exigeront que les modèles soient évalués avant déploiement, les fournisseurs devront prouver que le modèle effectivement exécuté correspond bien aux poids approuvés. Des organismes d’audit indépendants pourront également vérifier si le modèle qu’ils ont testé est bien le même que celui utilisé par les clients. Bien sûr, la cryptographie ne peut prouver que le processus de calcul correspond à la promesse initiale ; elle ne garantit pas la justesse des réponses du modèle, ni sa sécurité intrinsèque. J’ai toujours pensé qu’avec l’essor des agents IA prenant en charge de plus en plus de tâches réelles, l’industrie devra inévitablement répondre à cette question : sur quoi reposons-nous pour croire que l’IA exécutée sur un serveur distant est bien celle qu’on attend ? FlashProve n’est encore qu’un prototype de recherche, mais il propose au moins une voie technique méritant d’être explorée davantage.
