Microsoft опублікувала свій третій щорічний Звіт про прозорість відповідальної ШІ 1 вересня 2026 року, представивши широкий комплекс оновлень щодо того, як компанія керує, оцінює та контролює свої системи ШІ. Основна тема цього року: агентна ШІ — клас систем, які можуть запам’ятовувати контекст, приймати автономні рішення та виконувати багатокрокові завдання без присутності людини біля клавіатури.
Що саме міститься у звіті
За останній рік Microsoft визначила три основні напрямки інвестицій. По-перше, адаптивне управління та управління технічними ризиками. По-друге, практичні інструменти та можливості для нагляду за ШІ. По-третє, спільні практики з зовнішніми партнерами.
З боку управління компанія переробила свій Стандарт відповідальної ШІ. Замість організації рекомендацій щодо ризиків за випадками використання чи лінійками продуктів, нова структура побудована навколо самого стеку технологій ШІ: моделей, платформених сервісів та застосунків.
За словами Microsoft, цю масштабну модернізацію спричинили п’ять тенденцій: швидке впровадження ШІ підприємствами, розширення генеративних та агентних можливостей, зростання використання розмовного ШІ, збільшення потенціалу зловживань та швидко змінюючеся регуляторне середовище, яке викликає запаморочення у команд з дотримання вимог.
Кількість навчених є помітною. Microsoft повідомляє, що навчила майже 20 000 інженерів, політиків і клієнтів з питань відповідальної ШІ.
Нові інструменти та партнерства з червоною командою
Microsoft розширила свій інструментарій для нагляду за ШІ способами, які відчутно відносяться до 2026 року. Компанія представила AI Red Teaming Agent — саме те, що звучить: систему ШІ, створену для виявлення вразливостей в інших системах ШІ.
Крім внутрішніх інструментів, Microsoft створила Зовнішній альянс червоних команд, який об’єднує 18 університетів на шести континентах.
Щодо сертифікації, Microsoft тепер має сертифікати ISO 42001 для кількох ключових продуктів, включаючи Microsoft 365 Copilot, Foundry та GitHub Copilot. ISO 42001 — це міжнародний стандарт для систем управління ШІ.
Виклик агентного ШІ
Акцент звіту на агентній ШІ відображає ширший перегляд галузі. Агентна ШІ, яка може переглядати веб-сайти, писати та виконувати код, надсилати електронні листи та керувати робочими процесами, вводить режими відмов, яких не існує у чат-бота. Якщо агент неправильно інтерпретує мету, він не просто створює поганий абзац. Він може виконати серію дій у реальному світі, які посилюють помилку, перш ніж хтось це помітить.
Відповіддю Microsoft стало створення механізмів нагляду, спеціально розроблених для цього класу систем. Перероблений Стандарт відповідальної ШІ намагається вирішити ризики на кожному рівні стеку, визнавши, що вразливість на рівні моделі створює інші проблеми, ніж вразливість на рівні застосунку.
Що це означає для галузі
У звіті не було оголошень, що впливають на ринок, нових продуктів та фінансових показників, пов’язаних із відповідальними витратами на ШІ. Microsoft представила весь цей процес як заходи з побудови довіри.
Сертифікація ISO 42001 для Microsoft 365 Copilot дає корпоративним покупцям ще одну причину менше хвилюватися при обґрунтуванні покупки перед своїми юридичними та відповідальними командами.