微軟於週一推出新的安全功能，旨在保護企業免受日漸增加的AI代理威脅。此次發布之際，微軟持續提醒企業注意AI和代理帶來的風險。
最引人注目的新增功能是 Guardian Agents，這是一項用於監控企業所使用 AI 代理的新功能。Guardian Agents 屬於 Project Perception 的一部分，而 Project Perception 是微軟在 6 月推出的产品。
Project Perception 是微軟對 Anthropic 的 Mythos 和 Fable 等強大駭客模型，以及 OpenAI 的安全漏洞掃描系統 Daybreak 的回應。Project Perception 最初推出了三類代理：擔任駭客並發起攻擊的「紅隊」、檢測紅隊並評估其發現漏洞的「藍隊」，以及負責修復漏洞的「綠隊」。
該產品的設計基於這樣一個假設：AI 黑客會來自公司外部。但最近，微軟首席執行官薩提亞·納德拉一直警告，AI 敵人可能是企業已部署並付費使用的那些代理，就像失控的人類員工，也就是所謂的「內部威脅」。
本月初，納德拉在其個人部落格中警告稱，現在是時候停止信任 AI 模型供應商了，即使他們為其代理產品提供安全與防護保障。他希望企業建立獨立系統，不受 AI 實驗室控制，以監視和控制這些 AI 實驗室產品所啟動的代理。
他寫道：「我們正在部署這些複雜的代理系統和模型，讓它們訪問我們最敏感的數據，並賦予它們代表我們採取關鍵任務行動的能力！我們不能將代表我們所做智能行為的責任外包出去。……換句話說，我們需要將智能的供給與其權限分離。」
在宣布 Guardian Agents 時，微軟安全業務負責人 Hayete Gallot 的表述更為直接。
她寫道：「不幸的是，前沿模型無論來源如何，都不能被信任。」她補充說，這並不是因為它們具有惡意或容易被駭客入侵，而是因為它們不可預測。它們的訓練目標是完成任務，而不是遵循「組織規範或判斷」。
此外，這些模型往往被賦予「王國鑰匙」般的權限，能夠訪問可能造成嚴重損害的數據和工具。
微軟的解決方案既令人意外，也帶有自利色彩。令人意外之處在於，微軟與 OpenAI 和 Anthropic 的關係眾所周知十分密切，且已投資這兩家公司。OpenAI 也是微軟最大的雲端客戶之一，而微軟自己也有一個開發模型的 AI 實驗室。因此，微軟實際上是在對自己部分業務利益播下不信任。
其自利之處在於，微軟希望企業向其這家雲服務提供商購買代理安全產品，而非向 Anthropic 和 OpenAI 購買。不過，撇開利益衝突不談，其邏輯是合理的：監控代理行為的軟體應獨立於代理供應商，就像審計員應獨立於被審計組織一樣。
正如納德拉所說：「我們需要將智能的供給與其權限分離。」
微軟如今正以多種方式把握這一商業機遇。除了 Guardian Agents 之外，它還在 Microsoft Defender 產品中加入了代理檢測功能，能夠識別員工帶入工作場所的多达 60 種代理，包括 Claude Code、Codex 和 OpenClaw。微軟還增加了限制代理訪問數據和系統的功能，並會根據任務動態調整代理權限，其中包括在代理似乎正在做出高風險決策時要求人工批准。
將代理視為不可信的內部人員這一想法，也正在更廣泛的行業中流行起來。
微軟是英偉達新推出的 Open Agent Safety Platform 的創始成員之一，該平台獲得超過 100 家其他科技公司的支持。該平台將代理隔離在安全環境中，並可透過硬體監控與阻止其行為，功能上類似一個「終止開關」。這緊隨微軟此前宣布推出面向代理的新款 Surface Laptop Ultra 電腦，這些電腦搭載英偉達晶片，並內建代理安全與控制功能。