IT之家 10月20日消息，微软于当地时间周一推出了多项全新安全功能，旨在帮助企业抵御日益严峻的智能体带来的安全威胁。在发布该产品之际，微软持续向企业警示人工智能与智能体存在的各类风险。
IT之家注意到，本次新增功能中最受关注的是守护智能体（Guardian Agents），该功能用于监控企业内部正在使用的各类AI智能体。守护智能体隶属于感知项目（Project Perception），感知项目是微软于6月推出的产品。
Проект Perception — это ответ Microsoft на мощные хакерские модели Anthropic, такие как Mythos и Fable, а также на систему сканирования уязвимостей безопасности OpenAI Daybreak. При запуске проект Perception представил три типа агентов: красные агенты, играющие роль хакеров и осуществляющие атаки; синие агенты, отвечающие за обнаружение атак красных агентов и оценку уязвимостей; а также зеленые агенты, специализирующиеся на устранении уязвимостей.
Изначально этот продукт был разработан с предположением, что AI-хакеры будут поступать извне компании. Однако недавно генеральный директор Microsoft Сатья Наделла предупредил, что источником угроз на уровне ИИ может стать сама компания, использующая и оплачивающая собственные агенты — подобно неподконтрольному сотруднику, известному как «внутренняя угроза».
В начале этого месяца Наделла предупредил в своем личном блоге, что пришло время перестать доверять поставщикам моделей ИИ, даже если производители гарантируют безопасность своих автономных агентов. Он рекомендовал компаниям создавать независимые системы, не подконтрольные лабораториям ИИ, для наблюдения и управления агентами, соответствующими продуктам, выпускаемым этими лабораториями ИИ.
Он написал: «Мы внедряем такие сложные агентные системы и модели, которые могут получать доступ к нашим самым конфиденциальным данным и выполнять за нас ключевые бизнес-операции! Мы не можем делегировать ответственность за действия агентов от нашего имени. Гарантии, предоставляемые поставщиками моделей, не освобождают нас от этой ответственности... Иными словами, нам необходимо разделить поставку интеллектуальных возможностей и контроль над ними».
При представлении защитных агентов Хайете Галлот, руководитель подразделения кибербезопасности Microsoft, выразилась более прямо.
Она написала: «К сожалению, передовые модели, независимо от их источника, не могут быть полностью доверены». Она добавила, что это не связано с тем, что модели сами по себе вредоносны или уязвимы для хакерских атак, а с их непредсказуемым поведением. Цель обучения моделей — выполнение задач, а не соблюдение «организационных норм или критериев суждения».
Кроме того, эти агенты часто обладают высокими привилегиями и имеют доступ к различным данным и инструментам, что может привести к серьезным последствиям в случае потери контроля.
Предложенное Microsoft решение неожиданно и продиктовано собственными коммерческими интересами. Неожиданность заключается в том, что Microsoft тесно сотрудничает с OpenAI и Anthropic и имеет инвестиции в обе компании. OpenAI является крупным клиентом облачного бизнеса Microsoft, а сама Microsoft также имеет лабораторию ИИ для разработки крупных моделей. То есть Microsoft заставляет своих клиентов проявлять осторожность по отношению к продуктам некоторых своих коммерческих партнеров.
С точки зрения коммерческих интересов, Microsoft хочет, чтобы компании покупали продукты для безопасности агентов именно у себя, а не у Anthropic и OpenAI. Независимо от конфликта интересов, эта логика обоснована: программное обеспечение для мониторинга поведения агентов должно быть независимо от поставщика агентов, как аудиторские организации должны быть независимы от аудируемых организаций.
Как сказал Наделла: «Нам нужно разделить поставку интеллектуальных возможностей и контроль над ними».
Microsoft использует различные способы для использования этой бизнес-возможности. Помимо агента защиты, Microsoft добавила функцию обнаружения агентов в продукт Microsoft Defender, способный идентифицировать до 60 агентов, которые сотрудники могут вносить в рабочую среду, включая Claude Code, Codex и OpenClaw. Продукт также получил новую функцию, позволяющую ограничивать доступ агентов к данным и системам и динамически изменять права агентов в зависимости от задачи. Если агент собирается выполнить высокорискованную операцию, система требует ручного одобрения.
Идея рассматривать агентов как недоверенных внутренних угроз постепенно становится общепринятой в отрасли.
Microsoft является одним из основателей новой открытой платформы безопасности агентов (Open Agent Safety Platform) от NVIDIA, которую уже поддержали более 100 технологических компаний. Платформа изолирует агентов в безопасной среде, используя аппаратный мониторинг для обнаружения и остановки аномального поведения, аналогично аварийному выключателю. Ранее Microsoft выпустила новый ноутбук Surface Laptop Ultra, созданный специально для агентов, оснащенный чипами NVIDIA и встроенным модулем безопасности агентов.