Anthropic applique des preuves à divulgation nulle de connaissance à l'inférence IA pour prévenir la substitution de modèle

icon MarsBit
Partager
AI summary iconRésumé
Anthropic a open-sourcé FlashProve, un système qui applique la technologie de preuve à divulgation nulle de connaissance du secteur de la cryptomonnaie à l'inférence IA. Cet outil permet aux fournisseurs de générer des empreintes cryptographiques pour les poids des modèles et de vérifier les sorties sans avoir à relancer le modèle. Testé sur Llama 4 Maverick, chaque contexte de 1024 jetons génère une preuve de 19 Mo, vérifiée en 17 secondes sur une CPU standard. Toutefois, le calcul sur GPU prend 70 à 95 fois plus longtemps qu'une inférence normale. Cette actualité IA + cryptomonnaie met en lumière une nouvelle intersection dans les actualités du secteur de la cryptomonnaie.

Découverte Beating AI : Anthropic a open-sourcé FlashProve, une technologie de preuve à connaissance nulle (zkSNARK), couramment utilisée dans le domaine des cryptomonnaies, appliquée désormais à l'inférence des modèles d'IA. Cette technologie, initialement conçue pour prouver la validité des transactions blockchain sans révéler les détails de celles-ci, vise désormais à résoudre un autre problème : comment un utilisateur qui paie cher une API de modèle d'IA peut-il s'assurer que le fournisseur n'a pas secrètement remplacé le modèle par une version moins coûteuse ? FlashProve permet au fournisseur de générer une empreinte cryptographique des poids du modèle, puis de fournir une preuve mathématique pour chaque résultat d'inférence. L'utilisateur peut vérifier sans accéder aux poids du modèle ni le réexécuter, si une sortie donnée provient bien des poids préalablement promis. Claude a participé au développement et à l'optimisation de ce système. Anthropic a déjà mené des expériences sur le modèle Llama 4 Maverick de Meta, doté de 400 milliards de paramètres. Pour un contexte de 1024 tokens, la preuve générée fait environ 19 Mo et nécessite environ 17 secondes pour être vérifiée sur un CPU ordinaire. Toutefois, pour l'instant, chaque preuve ne peut valider qu'un seul token de sortie, et non une réponse complète. Le temps de calcul GPU requis pour générer une preuve atteint environ 70 à 95 fois celui d'une inférence classique. La capacité future de cette technologie à démasquer les fournisseurs d'API qui remplacent secrètement les modèles dépendra de la réduction des coûts de génération des preuves.

Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.