Los estándares de confianza en la era de la IA están en formación. En el futuro, las empresas líderes no solo necesitarán tener capacidades de IA, sino también demostrar: por qué actúa la IA y quién es responsable de ella.Autor y fuente del artículo: Sumsub
La IA está entrando en la era de la ejecución autónoma.
Desde el servicio al cliente inteligente y la operación automatizada hasta el análisis de operaciones, la evaluación de riesgos y la auditoría de cumplimiento, los Agentes de IA están pasando gradualmente de ser “herramientas de apoyo” a convertirse en entidades digitales capaces de completar tareas de forma independiente.
Pero a medida que aumenta el nivel de autonomía de la IA, surge una nueva pregunta: cuando la IA toma decisiones en nombre de una empresa, ¿puede la empresa demostrar por qué lo hizo, quién la autorizó y sobre qué base se fundamentó?
En agosto de 2026, la plataforma global de verificación de identidad y confianza digital Sumsub colaboró con la Asociación de FinTech de Singapur para publicar el informe “Estado actual de la confianza digital en Asia-Pacífico: Benchmark de gobernanza de IA”.
El informe investigó 9 mercados de la región Asia-Pacífico y a 720 profesionales de los campos de riesgo, cumplimiento, tecnología y operaciones, analizando en profundidad los nuevos desafíos de gobernanza que enfrentan las empresas en la era de los Agentes de IA.
El informe presenta un concepto clave: "asimetría de responsabilidad". Es decir: las empresas deben asumir la responsabilidad por los resultados generados por la IA, pero no siempre pueden demostrar cómo se formaron las decisiones de la IA.
Las aplicaciones de IA se están acelerando, pero la capacidad de gobernanza aún no ha avanzado al mismo ritmo.
El informe muestra que la velocidad de aplicación de IA por parte de las empresas chinas está aumentando rápidamente:
- Aproximadamente el 97% de las empresas chinas están utilizando o probando sistemas de IA en múltiples etapas.
- Pero solo el 29% de las empresas tienen plena confianza en rastrear e interpretar los procesos de toma de decisiones de la IA.
Esto significa que muchas empresas ya dependen de la IA para realizar tareas complejas, pero aún carecen de la capacidad completa de verificar los caminos de decisión, los fundamentos de datos, las fuentes de permisos y los registros de operación detrás del comportamiento de la IA.
Antes, las empresas necesitaban demostrar: “¿Por qué este empleado tomó esta decisión?” En el futuro, las empresas necesitarán responder: “¿Por qué este agente de IA tomó esta decisión?”
El núcleo de la gobernanza de la IA: hacer verificables los comportamientos autónomos
Sumsub evalúa la capacidad de gobernanza de IA de las empresas de Asia-Pacífico desde tres dimensiones:
1. Autonomía:
El grado en que la IA puede completar tareas de forma independiente.
Con el desarrollo de la IA agente, la IA está pasando de la generación simple de contenido a la ejecución automática de flujos de trabajo, la llamada a herramientas externas, la toma de decisiones complejas y la interacción con otros sistemas.
2. Responsabilidad:
Después de que la IA genere un resultado, ¿existe un sujeto responsable claro?
El informe muestra que el 75% de las empresas chinas ya han asignado la responsabilidad de los resultados relacionados con la IA a individuos o equipos específicos: el 35% a individuos y el 40% a equipos. Esto indica que las empresas están estableciendo marcos de responsabilidad para la IA.
3. Rastreabilidad (Traceability):
¿Pueden las empresas registrar y recuperar el proceso de toma de decisiones de la IA?
Y este es precisamente el mayor desafío actual. Solo unas pocas empresas poseen la capacidad completa de registrar decisiones de IA. Si los agentes de IA participan en la evaluación de transacciones financieras, la clasificación de riesgo del usuario, la verificación de identidad y la detección de fraude, pero no pueden explicar la base de sus decisiones, las empresas enfrentarán nuevos riesgos de confianza.
De identidad digital a identidad de IA: La próxima generación de infraestructura de confianza está en formación
A medida que los agentes de IA se convierten en participantes importantes en la economía digital, surge una nueva pregunta: ¿los agentes de IA también necesitan identidad?
En la era de Internet tradicional, el sistema de identidad responde a la pregunta: "¿Quién es esta persona?". En la era de la IA, se necesita responder adicionalmente: "¿Quién es esta IA? ¿Qué se le ha autorizado hacer? ¿Qué ha hecho?".
El informe señala que las empresas futuras necesitarán establecer:
- Gestión de identidad de AI Agent
- Mecanismo de control de permisos
- Sistema de registro de comportamiento
- Capacidad de auditoría de decisiones
Que cada operación de IA sea rastreable hasta: un agente de IA verificado y la persona responsable detrás de él.
En la era de la fusión de Web3 y IA, la confianza se convierte en infraestructura clave
Esta tendencia es especialmente clara para la industria Web3, los activos digitales y la tecnología financiera.
Las aplicaciones descentralizadas, los contratos inteligentes, el intercambio de activos digitales y los servicios de agentes de IA dependen de una capacidad fundamental: la identidad confiable.
La economía digital del futuro no solo requiere IA más inteligente y sistemas más automatizados, sino también mecanismos de autorización más transparentes, sistemas de identidad más confiables y capacidades de auditoría más completas.
Solo cuando el comportamiento de la IA sea verificable, las empresas podrán lograr una aplicación a gran escala.
De "saber usar IA" a "demostrar que la IA es confiable"
El informe muestra que el 99% de las empresas están dispuestas a adoptar métodos que puedan demostrar cada operación de IA.
Esto indica que el mercado está formando un nuevo consenso: la próxima fase de la competencia en IA no solo es una competencia por la capacidad de los modelos, sino también por quién puede establecer un sistema de gobernanza de IA confiable.
Como indicó Penny Chai, vicepresidenta de Sumsub para Asia-Pacífico:
Las normas regulatorias definen claramente los límites de responsabilidad, mientras que las infraestructuras de confianza digital, como la identificación de identidades, el seguimiento de decisiones y los registros de auditoría, permiten que la rendición de cuentas de la IA se concrete en aplicaciones reales.
Los estándares de confianza en la era de la IA están en formación. En el futuro, las empresas líderes no solo necesitarán tener capacidades de IA, sino también demostrar: por qué actúa la IA y quién es responsable de ella.
Descargar el informe completo
¿Desea conocer más sobre las tendencias de gobernanza de IA en Asia-Pacífico, el estado actual de la aplicación de Agentes de IA en empresas y cómo construir un sistema de confianza digital verificable? Haga clic en el enlace original para obtener el informe «Estado de la Confianza Digital en Asia-Pacífico: Benchmark de Gobernanza de IA» de Sumsub