source avatarT.Messio

Partager

L'IA s'améliore pour générer des réponses, mais comment savons-nous que ces réponses proviennent bien du modèle que nous avions l'intention d'utiliser ? Je pense que c'est un défi bien plus important qu'il n'y paraît. C'est pourquoi FlashProve d'Anthropic a retenu mon attention. Il introduit une méthode pour vérifier qu'une réponse a été générée par un modèle d'IA spécifique, sans révéler les poids du modèle. Ce qui rend cela encore plus intéressant, c'est la cryptographie qui sous-tend ce système. FlashProve utilise des techniques STARK basées sur des fonctions de hachage pour construire ses preuves, apportant des propriétés de sécurité post-quantique au processus de vérification. Il y a quelques détails que je trouve particulièrement importants : Des techniques cryptographiques déjà utilisées dans des systèmes comme Starknet. Des preuves basées sur des fonctions de hachage qui ne reposent pas sur des hypothèses courbes elliptiques. Une vérification formelle en Lean, qui renforce la confiance dans la correction du protocole. Des travaux fondateurs antérieurs impliquant Cairo et Stwo. Un autre lien intéressant est la présence d'Alessandro Chiesa, cofondateur de StarkWare, parmi les chercheurs derrière ce travail. Pour moi, cela montre comment les technologies développées pour le calcul vérifiable peuvent dépasser le domaine de la blockchain. Alors que l'IA devient partie intégrante de décisions de plus en plus importantes, faire confiance à ce qu'un modèle dit ne suffira plus. Nous aurons aussi besoin de moyens pour vérifier que le modèle a effectivement produit la sortie. C'est là que je pense que la combinaison de l'IA et des preuves cryptographiques devient véritablement précieuse. @Starknet La technologie cryptographique sous-jacente est désormais pertinente pour une conversation bien plus large que la blockchain seule.

Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.