IT Home, 20 Oktubre, inilunsad ng Microsoft ang mga bagong tampok sa seguridad noong Lunes na lokal na oras, na naglalayong tulungan ang mga negosyo na labanan ang patuloy na lumalaking banta sa seguridad mula sa mga agent. Habang inilalabas ang produkto, patuloy na binabalaan ng Microsoft ang mga negosyo tungkol sa iba’t ibang panganib na dulot ng artificial intelligence at mga agent.
Napansin ng IT Home na ang pinakamalaking pagpapalawig sa bagong tampok ay ang Guardian Agents, na ginagamit upang suriin ang iba’t ibang AI agents na ginagamit sa loob ng isang kumpanya. Ang Guardian Agents ay bahagi ng Project Perception, isang produkto na inilunsad ng Microsoft noong Hunyo.
Ang Project Perception ay ang tugon ng Microsoft sa mga malakas na hacker model na tulad ng Mythos at Fable ng Anthropic, at sa sistemang pag-scan ng security na Daybreak ng OpenAI. Noong unang paglulunsad, may tatlong uri ng agent ang Project Perception: ang red team agent na naglalaro bilang hacker upang mag-atake, ang blue team agent na responsable sa paghahanap at pag-e-evaluate ng mga paglabag, at ang green team agent na espesyal na nakatuon sa pagpapabuti ng mga security vulnerability.
Ang orihinal na pagtataya sa pagdidisenyo ng produkto ay ang mga AI hacker ay mula sa labas ng korporasyon. Ngunit sa nakaraang panahon, nagbaba ng babala si Satya Nadella, CEO ng Microsoft, na ang mga banta sa antas ng AI ay maaaring mula mismo sa mga agente na inilalabas at binabayaran ng korporasyon, tulad ng isang empleyado na nagkakaroon ng walang kontrol na pag-uugali, o kilala bilang “internal threat”.
Sa mga unang araw ng buwan, binigyan ni Nadella ng babala sa kanyang personal na blog: nandito na ang panahon na huwag nang maniwala sa mga tagapagbigay ng AI model, kahit na ang mga vendor ay nagbigay ng mga pangako sa kaligtasan para sa kanilang sariling mga produktong may kakayahang mag-act nang sarili. Iminungkahi niya na ang mga kumpanya ay dapat magtatag ng sariling sistema na hindi pinapag-ugnay ng mga AI laboratoryo, upang suriin at kontrolin ang mga agent na nauugnay sa mga produktong ipinapakilala ng mga laboratoryang ito.
Isulat niya: "Nagde-deploy kami ng mga komplikadong sistema at modelo ng agent na may access sa aming pinakamalalaking datos at makapagpapatakbo ng mga mahalagang negosyo para sa amin! Hindi natin maaaring ibigay sa iba ang responsibilidad na pagpapatakbo ng mga agent para sa amin. Ang mga jamin ng mga tagapagbigay ng modelo ay hindi nakakalibre sa aming responsibilidad... Sa ibang salita, kailangan nating hiwalayin ang pagbibigay ng kakayahang maging matalino at ang kontrol sa paggamit nito."
Sa pagpapakilala sa guardian agent, mas direkta ang pahayag ni Hayete Gallot, head ng Microsoft Security.
Isulat niya: "Ang pagkakaroon ng pagdududa sa mga modelo sa harap, anuman ang pinagmulan nito, ay hindi maiiwasan." Dagdag niya, ito ay hindi dahil sa masamang intensyon o kahinaan sa pag-atake ng mga hacker ang mga modelo, kundi dahil sa kanilang hindi matitiyak na pag-uugali. Ang layunin ng pagtuturo ng mga modelo ay upang matapos ang mga gawain, hindi upang sundin ang "mga patakaran o pamantayan ng organisasyon."
Bukod dito, ang mga intelligent agent na ito ay karaniwang may mataas na pagsasakop at kakayahang makapag-access sa iba’t ibang data at mga kasangkapan, at kung mawala ang kontrol, maaaring magdulot ng malubhang pinsala.
Ang solusyong ibinigay ng Microsoft ay kahanga-hanga at may sariling mga negosyal na pag-iisip. Ang isang kahanga-hangang aspeto ay ang malapit na ugnayan ng Microsoft kay OpenAI at Anthropic, kasama ang pag-invest sa parehong mga kumpanya. Ang OpenAI ay isa rin sa malalaking kliyente ng cloud service ng Microsoft, at may sariling AI laboratoryo ang Microsoft para sa pagpapaunlad ng malalaking modelo. Ibig sabihin, pinapahiwatig ng Microsoft sa mga kliyente na maging bantay sa ilang produkto ng kanilang mga bahagyang negosyal na kasosyo.
Sa pananaw ng komersyal na interes, gustong-gusto ng Microsoft na bumili ang mga negosyo ng mga produkto para sa kaligtasan ng mga agent mula sa kanilang sariling cloud service provider, kaysa sa Anthropic at OpenAI. Pagkalimot na sa konplikto ng interes, ang lohikang ito ay may katotohanan: ang software na nagmomonito sa pag-uugali ng mga agent ay dapat na independiyente sa tagapagbigay ng mga agent, tulad ng kung paano kailangang independiyente ang mga auditoryo mula sa mga organisasyong pinag-aaralan.
Tulad ng sinabi ni Nadella: "Kailangan nating hiwalayin ang suplay ng mga kakayahan sa pag-iisip at ang pagkakaroon ng kontrol dito."
Dinadala ng Microsoft ang pagkakataong ito sa pamamagitan ng iba't ibang paraan. Bukod sa Defender Agent, idinagdag ng Microsoft ang function ng agent detection sa loob ng Microsoft Defender upang makakilala ng hanggang 60 uri ng agent na dinala ng mga empleyado sa kanilang workplace, kabilang ang Claude Code, Codex, at OpenClaw. Idinagdag din ng produkto ang function na magpapalimita sa pag-access ng agent sa data at sistema, at mag-aadjust ng mga pahintulot ng agent batay sa task. Kung malapit nang gawin ng agent ang isang mataas na panganib na aksyon, hihingi ang sistema ng pagpapahintulot mula sa tao.
Ang ideya na tingnan ang mga agent bilang hindi mapagkakatiwalaang internal threat ay patuloy na nagkakaroon ng pagkakasundo sa buong industriya.
Ang Microsoft ay isa sa mga founding member ng bagong Open Agent Safety Platform ni NVIDIA, na sinuportahan na ng higit sa 100 na tech company. Ang platform ay nag-iisolate ng agents sa ligtas na kapaligiran, gumagamit ng hardware-based monitoring at pagtatapos sa anomalous behavior, na katulad ng isang emergency shut-off switch. Bago ito, ang Microsoft ay nagsalita na ng bagong Surface Laptop Ultra na disenyo para sa agents, na may NVIDIA chip at built-in agent safety control module.