Les normes de confiance à l'ère de l'IA sont en train de se former. À l'avenir, les entreprises leaders devront non seulement posséder des capacités en IA, mais aussi démontrer pourquoi l'IA agit et qui en est responsable.Auteur et source de l'article : Sumsub
L'IA entre dans l'ère de l'exécution autonome.
Des services clients intelligents et l'exploitation automatisée à l'analyse des transactions, l'évaluation des risques et la vérification de la conformité, les agents IA deviennent progressivement des entités numériques capables d'accomplir des tâches de manière autonome.
Mais à mesure que l'autonomie de l'IA augmente, une nouvelle question émerge : lorsque l'IA prend des décisions au nom de l'entreprise, celle-ci peut-elle démontrer pourquoi elle a agi ainsi, qui lui a accordé cet autorité et sur quelles bases ?
En août 2026, la plateforme mondiale d'authentification et de confiance numérique Sumsub a collaboré avec la Singapore FinTech Association pour publier le rapport « État actuel de la confiance numérique en Asie-Pacifique : Benchmark sur la gouvernance de l'IA ».
Ce rapport a enquêté sur neuf marchés de la région Asie-Pacifique et recueilli les avis de 720 professionnels des domaines du risque, de la conformité, de la technologie et des opérations, pour analyser en profondeur les nouveaux défis de gouvernance auxquels les entreprises sont confrontées à l'ère des agents IA.
Le rapport introduit un concept clé : « l'asymétrie de responsabilité ». Il s'agit du fait que les entreprises doivent assumer la responsabilité des résultats générés par l'IA, sans pour autant pouvoir toujours démontrer comment les décisions de l'IA ont été prises.
L'adoption de l'IA s'accélère, mais la capacité de gouvernance n'a pas suivi.
Le rapport indique que la vitesse d'adoption de l'IA par les entreprises chinoises s'accélère rapidement :
- Environ 97 % des entreprises chinoises utilisent ou testent des systèmes d'IA à plusieurs étapes.
- Mais seulement 29 % des entreprises ont pleinement confiance en leur capacité à suivre et à interpréter les décisions prises par l'IA.
Cela signifie que de nombreuses entreprises ont commencé à compter sur l'IA pour accomplir des tâches complexes, mais qu'elles manquent toujours d'une capacité complète de vérification concernant les chemins de décision, les bases de données, les sources d'autorisation et les journaux d'opérations sous-jacents à son comportement.
Autrefois, les entreprises devaient prouver : « Pourquoi cet employé a-t-il pris cette décision ? » À l'avenir, les entreprises devront répondre : « Pourquoi cet agent IA a-t-il pris cette décision ? »
Le cœur de la gouvernance de l'IA : rendre les comportements autonomes vérifiables
Sumsub évalue les capacités de gouvernance de l'IA des entreprises d'Asie-Pacifique selon trois dimensions :
1. Autonomie (Autonomy) :
Le degré auquel l'IA peut accomplir des tâches de manière autonome.
Avec le développement de l'IA agente, l'IA passe de la génération de contenu simple à l'exécution automatique de flux de travail, à l'appel d'outils externes, à des jugements complexes et à l'interaction avec d'autres systèmes.
2. Responsabilité :
Après la génération d'un résultat par l'IA, existe-t-il un responsable clair ?
Le rapport indique que 75 % des entreprises chinoises ont déjà attribué la responsabilité des résultats liés à l'IA à des individus ou des équipes spécifiques : 35 % à des individus et 40 % à des équipes. Cela montre que les entreprises établissent un cadre de responsabilité pour l'IA.
3. Traçabilité (Traceability) :
Les entreprises peuvent-elles enregistrer et reconstituer le processus de décision de l'IA ?
C’est précisément le plus grand défi actuel. Seules quelques entreprises possèdent la capacité complète d’enregistrer les décisions prises par l’IA. Si un Agent IA participe à l’évaluation des transactions financières, à la notation du risque utilisateur, à l’authentification des identités et à la détection de la fraude, sans pouvoir expliquer les raisons de ses décisions, les entreprises feront face à de nouveaux risques de confiance.
De l'identité numérique à l'identité IA : la prochaine génération d'infrastructure de confiance est en train de se former
Alors que les agents IA deviennent des participants importants de l'économie numérique, une nouvelle question se pose : les IA ont-elles également besoin d'une identité ?
À l'ère d'Internet traditionnel, les systèmes d'identité répondent à la question : « Qui est cette personne ? » À l'ère de l'IA, il faut aller plus loin et répondre à : « Qui est cet IA ? Quelles actions lui sont-elles autorisées ? Qu'a-t-il accompli ? »
Le rapport indique que les entreprises devront établir :
- Gestion des identités des agents IA
- Mécanisme de contrôle des autorisations
- Système de suivi des comportements
- Capacité d'audit des décisions
Assurez que chaque opération d'IA soit traçable : vers un agent IA vérifié et son responsable sous-jacent.
À l'ère de la convergence de Web3 et de l'IA, la confiance devient une infrastructure essentielle
Cette tendance est particulièrement visible dans les secteurs du Web3, des actifs numériques et de la fintech.
Les applications décentralisées, les contrats intelligents, les échanges d'actifs numériques et les services d'agents IA reposent tous sur une capacité fondamentale : l'identité fiable.
L'économie numérique de l'avenir nécessitera non seulement des IA plus intelligentes et des systèmes plus automatisés, mais aussi des mécanismes d'autorisation plus transparents, des systèmes d'identité plus fiables et des capacités d'audit plus complètes.
Les entreprises ne peuvent réellement réaliser une application à grande échelle que si le comportement de l'IA est vérifiable.
De « savoir utiliser l'IA » à « prouver la fiabilité de l'IA »
Le rapport montre que 99 % des entreprises sont prêtes à adopter des méthodes permettant de prouver chaque opération d'IA.
Cela indique que le marché est en train de former un nouveau consensus : la prochaine étape de la concurrence dans l'IA ne se limite pas à la compétition des capacités des modèles, mais aussi à qui parviendra à établir un système de gouvernance de l'IA digne de confiance.
Comme l'a déclaré Penny Chai, vice-présidente de Sumsub pour l'Asie-Pacifique :
Les réglementations encadrent clairement les limites de responsabilité, tandis que les infrastructures de confiance numérique telles que l'identification des utilisateurs, le suivi des décisions et les registres d'audit permettent de concrétiser la responsabilité de l'IA dans les applications réelles.
Les normes de confiance à l'ère de l'IA sont en train de se former. À l'avenir, les entreprises leaders devront non seulement posséder des capacités en IA, mais aussi démontrer pourquoi l'IA agit et qui en est responsable.
Télécharger le rapport complet
Souhaitez-vous en savoir plus sur les tendances de la gouvernance de l’IA en Asie-Pacifique, l’état actuel de l’application des agents IA par les entreprises, et la manière de construire un système de confiance numérique vérifiable ? Cliquez sur le lien original pour obtenir le rapport « État de la confiance numérique en Asie-Pacifique : Benchmark de la gouvernance de l’IA » de Sumsub.