Microsoft, şirketleri artan AI ajant tehditlerinden korumayı amaçlayan yeni güvenlik özelliklerini Pazartesi günü sundu. Bu yayın, Microsoft'un şirketlere AI ve ajantlardan kaynaklanan riskler konusunda sürekli uyarıda bulunduğu bir dönemde gerçekleşti.
En dikkat çekici yeni özellik, şirketlerin kullandığı AI ajanlarını izlemek için tasarlanmış Guardian Agents'tır. Guardian Agents, Microsoft'un Haziran'da sunduğu Project Perception'in bir parçasıdır.
Project Perception, Microsoft'in Anthropic'in Mythos ve Fable gibi güçlü hacker modellerine ve OpenAI'nin Daybreak güvenlik açıkları tarama sistemine verdiği cevaptır. Project Perception, başlangıçta üç tür ajan tanıttı: "Kırmızı Takım" olarak adlandırılan hacker rolünü üstlenen ve saldırılar başlatan, "Mavi Takım" olarak adlandırılan kırmızı takımı tespit eden ve bulduğu açıkları değerlendiren, ve "Yeşil Takım" olarak adlandırılan açıkları onaran ajanlar.
Bu ürünün tasarımı, AI hacker'ların şirket dışından geleceğini varsayarak yapılmıştır. Ancak son zamanlarda Microsoft CEO'su Satya Nadella, AI düşmanlarının, şirketlerin zaten kurup ödeme yaptığı ajantlar olabileceğini, yani kontrolü kaybedilen insan çalışanlar gibi, yani所谓的“iç tehdit” olarak uyarıda bulunuyor.
Bu ayın başlarında, Nadella kendi kişisel blogunda, AI model sağlayıcılarının temsilci ürünlerine yönelik güvenlik ve koruma garantileri vermesine rağmen artık onlara güvenmeyi bırakma zamanının geldiğini uyarıdı. Kuruluşların, bu AI laboratuvar ürünlerinin başlattığı temsilcileri izlemek ve kontrol etmek için AI laboratuvarlarının kontrolü dışında bağımsız sistemler kurmasını istedi.
O, "Bu karmaşık ajan sistemlerini ve modellerini dağıtıp, en hassas verilerimize erişim sağlıyor ve kritik görevleri temsil etme yetkisi veriyoruz! Yapmış olduğumuz akıllı davranışların sorumluluğunu dışa aktaramayız. ... Başka bir deyişle, akıllılığın sağlığını yetkilerden ayırmamız gerekiyor."
Guardian Agents duyurulurken Microsoft Güvenlik İşleri Başkanı Hayete Gallot daha doğrudan ifadeler kullandı.
O, "Ne yazık ki, ön uç modelleri, kaynaklarından bağımsız olarak güvenilmez." dedi ve bunun, kötü niyetli olmaları veya hileye uğraması nedeniyle değil, öngörülemez olmaları nedeniyle olduğunu ekledi. Eğitim hedefleri, "kurumsal normlar veya yargıları" takip etmek değil, görevleri tamamlamaktır.
Ayrıca, bu modeller genellikle ciddi zararlara neden olabilecek verilere ve araçlara erişim sağlayan “krallık anahtarı” gibi yetkilere sahiptir.
Microsoft'in çözümü hem sürpriz hem de kendi çıkarına hizmet ediyor. Sürpriz olan, Microsoft'un OpenAI ve Anthropic ile olan ilişkisinin iyi bilinmesi ve bu iki şirkete yatırım yapmış olması. OpenAI, Microsoft'un en büyük bulut müşterilerinden biri olup, Microsoft'un kendi bir AI laboratuvarı da var. Bu nedenle Microsoft, aslında kendi iş çıkarlarının bir kısmına güvensizlik ekiyor.
Kendine yarar sağlama nedeni, Microsoft'un şirketlerin Anthropic ve OpenAI'den değil, kendi bulut hizmet sağlayıcısı olarak proxy güvenlik ürünleri satın almasını istemesidir. Ancak çıkar çatışmalarını bir tarafa bırakırsak, mantığı geçerlidir. Proxy davranışlarını izleyen yazılım, denetmenlerin denetlenen organizasyondan bağımsız olması gerektiği gibi, proxy sağlayıcıdan bağımsız olmalıdır.
Nadella'nın dediği gibi: "Akıllı sağlığı yetkilerinden ayırmamız gerekiyor."
Microsoft, bu ticari fırsatı çeşitli yollarla yakalamaktadır. Guardian Agents'in yanı sıra, Microsoft Defender ürününde, Claude Code, Codex ve OpenClaw dahil olmak üzere çalışanların iş yerine getirdiği 60'a kadar proxy'yi tespit eden bir proxy tespit özelliği eklemiştir. Microsoft, proxy'lerin verilere ve sistemlere erişimini kısıtlama özelliğini de eklemiş ve görevlere göre proxy yetkilerini dinamik olarak ayarlamaktadır; bu da proxy'nin yüksek riskli kararlar veriyor gibi görünmesi durumunda insan onayı istemeyi içermektedir.
Ajanları güvensiz iç çalışanlar olarak görme fikri, daha geniş endüstride de popüler hale geliyor.
Microsoft, 100'den fazla diğer teknoloji şirketinin desteğini alan NVIDIA'nın yeni Open Agent Safety Platform'unun kurucu üyelerinden biridir. Bu platform, ajantları güvenli ortamlarda izole eder ve donanım tabanlı izleme ile davranışlarını engelleyebilir; işlevsel olarak bir "acil durum kapatma düğmesi" gibi çalışır. Bu gelişme, Microsoft'un daha önce, NVIDIA çipleriyle donatılmış ve ajant güvenliği ile kontrol fonksiyonları entegre edilmiş yeni Surface Laptop Ultra bilgisayarlarını tanıtmadan hemen sonra geldi.