В эпоху ИИ формируются стандарты доверия. В будущем ведущие компании должны не только обладать возможностями ИИ, но и доказывать, почему ИИ принимает те или иные решения и кто за него отвечает.Автор статьи, источник: Sumsub
ИИ входит в эпоху автономного выполнения.
От смарт-поддержки и автоматизированной операционной деятельности до анализа торговли, оценки рисков и проверки соответствия требованиям, AI Agent постепенно превращается из «вспомогательного инструмента» в цифровой субъект, способный самостоятельно выполнять задачи.
Но по мере повышения автономности ИИ возникает новая проблема: когда ИИ принимает решения от имени компании, может ли компания доказать — почему она так поступила, кто дал на это разрешение и на каких основаниях?
В августе 2026 года глобальная платформа идентификации и цифрового доверия Sumsub совместно с Ассоциацией финтеха Сингапура (Singapore FinTech Association) выпустила отчет «Состояние цифрового доверия в Азиатско-Тихоокеанском регионе: эталонные показатели управления ИИ».
Отчет исследовал 9 рынков в Азиатско-Тихоокеанском регионе и 720 профессионалов из областей рисков, соответствия требованиям, технологий и операций, глубоко проанализировав новые вызовы управления, с которыми сталкиваются компании в эпоху AI Agent.
Отчет вводит ключевое понятие: «асимметрия подотчетности» (Accountability Asymmetry). То есть: компании должны нести ответственность за результаты, сгенерированные ИИ, но не всегда могут доказать, как были сформированы решения ИИ.
Применение ИИ ускоряется, но возможности регулирования не успевают за ним
Отчет показывает, что скорость внедрения ИИ китайскими компаниями быстро растет:
- Около 97% китайских компаний используют или тестируют многоэтапные ИИ-системы
- Однако лишь 29% компаний уверены в способности отслеживать и интерпретировать процессы принятия решений ИИ.
Это означает, что многие компании уже начали полагаться на ИИ для выполнения сложных задач, но все еще не обладают полной способностью проверять пути принятия решений, основанные на данных, источники полномочий и журналы операций ИИ.
Раньше компаниям нужно было доказывать: «Почему этот сотрудник принял это решение?» В будущем компаниям нужно будет отвечать: «Почему этот AI-агент принял это решение?»
Основа управления ИИ: сделать автономное поведение проверяемым
Sumsub оценивает способность предприятий Азиатско-Тихоокеанского региона к управлению ИИ по трем измерениям:
1. Автономия (Autonomy):
Степень, в которой ИИ может выполнять задачи самостоятельно.
С развитием агентного ИИ искусственный интеллект переходит от простого создания контента к автоматическому выполнению рабочих процессов, вызову внешних инструментов, принятию сложных решений и взаимодействию с другими системами.
2. Ответственность (Responsibility):
После генерации результатов ИИ существует ли четко определенный субъект ответственности?
Отчет показывает: 75% китайских компаний уже возложили ответственность за результаты, связанные с ИИ, на конкретных лиц или команды. Из них: 35% — на отдельных лиц, 40% — на команды. Это свидетельствует о том, что компании формируют рамки ответственности за ИИ.
3. Отслеживаемость (Traceability):
Могут ли компании записывать и восстанавливать процесс принятия решений ИИ.
И именно это сейчас является наибольшей проблемой. Только немногие компании обладают полной способностью вести записи принятия решений с помощью ИИ. Если ИИ-агент участвует в принятии решений о финансовых транзакциях, оценке рисков пользователей, проверке личности и обнаружении мошенничества, но не может объяснить основания своих решений, компании столкнутся с новыми рисками доверия.
От цифровой идентичности к ИИ-идентичности: формируется инфраструктура доверия следующего поколения
По мере того как AI-агенты становятся важными участниками цифровой экономики, возникает новый вопрос: нужны ли AI идентичности?
В эпоху традиционного интернета система идентификации решала вопрос: «Кто этот человек?» А в эпоху ИИ необходимо дополнительно ответить: «Кто этот ИИ? Что ему разрешено делать? Что он уже сделал?»
Отчет указывает, что будущим компаниям необходимо создать:
- Управление идентичностью ИИ-агента
- Механизм управления доступом
- Система записи действий
- Способность аудита решений
Каждая операция с ИИ должна быть прослеживаемой: к проверенному субъекту ИИ и ответственному лицу за ним.
Эпоха интеграции Web3 и ИИ, где доверие становится ключевой инфраструктурой
Эта тенденция особенно заметна в отраслях Web3, цифровых активов и финтех.
Децентрализованные приложения, смарт-контракты, торговля цифровыми активами и услуги AI Agent зависят от одной ключевой способности: надежной идентичности.
Цифровая экономика будущего требует не только более интеллектуальных ИИ и более автоматизированных систем, но и более прозрачных механизмов авторизации, более надежных систем идентификации и более совершенных возможностей аудита.
Только сделав поведение ИИ проверяемым, компании смогут реально масштабировать его применение.
От «умеющего использовать ИИ» до «доказывающего доверие к ИИ»
Отчет показывает: 99% компаний готовы использовать методы, подтверждающие каждую операцию ИИ.
Это указывает на то, что рынок формирует новое консенсусное мнение: следующий этап конкуренции в области ИИ — это не только соревнование в способностях моделей, но и конкуренция за создание надежной системы управления ИИ.
Как отметил вице-президент Sumsub по Азиатско-Тихоокеанскому региону Пенни Чай:
Регуляторные правила четко определяют границы ответственности, а цифровые инфраструктуры доверия, такие как идентификация личности, отслеживание решений и аудиторские записи, позволяют реально реализовать подотчетность ИИ.
В эпоху ИИ формируются стандарты доверия. В будущем ведущие компании должны не только обладать возможностями ИИ, но и доказывать, почему ИИ принимает те или иные решения и кто за него отвечает.
Скачать полный отчет
Хотите узнать больше о тенденциях в области управления ИИ в Азиатско-Тихоокеанском регионе, текущем состоянии применения корпоративных ИИ-агентов и о том, как построить проверяемую систему цифрового доверия? Перейдите по ссылке в оригинале, чтобы получить отчет «Sumsub: Состояние цифрового доверия в Азиатско-Тихоокеанском регионе: Бенчмаркинг управления ИИ»