Microsoft опубликовала свой третий ежегодный Отчет о прозрачности ответственного ИИ 1 сентября 2026 года, представив широкий комплекс обновлений в области управления, оценки и контроля своих систем ИИ. Главная тема этого года: агентное ИИ — класс систем, способных запоминать контекст, принимать автономные решения и выполнять многошаговые задачи без постоянного присутствия человека за клавиатурой.
Что именно содержится в отчете
За последний год Microsoft выделила три основных направления инвестиций. Во-первых, адаптивное управление и управление техническими рисками. Во-вторых, практические инструменты и возможности для контроля ИИ. В-третьих, совместные практики с внешними партнерами.
В части управления компания переработала свой Стандарт ответственного ИИ. Вместо классификации рекомендаций по рискам по сценариям использования или линейкам продуктов новая структура построена вокруг самого технологического стека ИИ: моделей, платформенных сервисов и приложений.
По данным Microsoft, эту переработку определили пять тенденций: быстрое внедрение ИИ предприятиями, расширение генеративных и агентных возможностей, рост использования конверсационного ИИ, увеличение потенциала для злоупотреблений и изменяющаяся с такой скоростью регуляторная среда, что команды по соблюдению норм испытывают головокружение.
Число обученных специалистов впечатляет. Microsoft сообщает, что она обучила почти 20 000 инженеров, политиков и клиентов вопросам ответственного ИИ.
Новые инструменты и партнерства с красной командой
Microsoft расширила свой набор инструментов для контроля ИИ способами, которые ощущаются как явно 2026 год. Компания представила AI Red Teaming Agent — что именно так и звучит: систему ИИ, предназначенную для выявления уязвимостей в других системах ИИ.
Помимо внутренних инструментов, Microsoft создала Внешний альянс красных команд, объединивший 18 университетов на шести континентах.
В области сертификации Microsoft теперь имеет сертификаты ISO 42001 для нескольких ключевых продуктов, включая Microsoft 365 Copilot, Foundry и GitHub Copilot. ISO 42001 — это международный стандарт для систем управления ИИ.
Вызов агентного ИИ
Акцент отчета на агентных ИИ отражает более широкий отраслевой пересмотр. Агентный ИИ, способный просматривать веб-сайты, писать и выполнять код, отправлять электронные письма и управлять рабочими процессами, вводит режимы сбоев, которых не существует у чат-бота. Если агент неверно интерпретирует цель, он не просто создает плохой абзац. Он может предпринять серию реальных действий, которые усугубляют ошибку, прежде чем кто-либо это заметит.
Ответом Microsoft стало создание механизмов контроля, специально разработанных для этого класса систем. Переработанный стандарт ответственного ИИ стремится устранить риски на каждом уровне стека, осознавая, что уязвимость на уровне модели создает иные проблемы, чем уязвимость на уровне приложения.
Что это значит для отрасли
В отчете не было никаких объявлений, влияющих на рынок, новых продуктов и финансовых показателей, связанных с ответственными расходами на ИИ. Microsoft представила все эти усилия как мероприятие по укреплению доверия.
Сертификация ISO 42001 для Microsoft 365 Copilot позволяет корпоративным покупателям сократить один из пунктов беспокойства при обосновании покупки перед своими юридическими и комплаенс-командами.