A Microsoft lançou na segunda-feira novos recursos de segurança destinados a proteger empresas contra a crescente ameaça de agentes de IA. O lançamento ocorre enquanto a Microsoft continua a alertar as empresas sobre os riscos associados à IA e aos agentes.
O recurso mais notável é o Guardian Agents, uma nova funcionalidade para monitorar os agentes de IA utilizados pelas empresas. O Guardian Agents faz parte do Project Perception, lançado pela Microsoft em junho.
Project Perception é a resposta da Microsoft a modelos poderosos de hacking como Mythos e Fable da Anthropic, e ao sistema de varredura de vulnerabilidades de segurança Daybreak da OpenAI. O Project Perception foi inicialmente lançado com três tipos de agentes: a "equipe vermelha", que atua como hacker e realiza ataques; a "equipe azul", que detecta a equipe vermelha e avalia as vulnerabilidades encontradas; e a "equipe verde", responsável por corrigir as vulnerabilidades.
O design deste produto baseia-se na suposição de que os hackers de IA virão de fora da empresa. No entanto, recentemente, o CEO da Microsoft, Satya Nadella, tem alertado que os inimigos de IA podem ser exatamente aqueles agentes que as empresas já implantaram e pagaram para usar, semelhantes a funcionários humanos descontrolados, conhecidos como “ameaças internas”.
No início deste mês, Nadella alertou em seu blog pessoal que chegou a hora de deixar de confiar nos provedores de modelos de IA, mesmo que eles ofereçam garantias de segurança e proteção para seus produtos de agente. Ele deseja que as empresas criem sistemas independentes, não controlados pelos laboratórios de IA, para monitorar e controlar os agentes iniciados por esses produtos de laboratórios de IA.
Ele escreveu: “Estamos implementando esses sistemas e modelos de agentes complexos para que eles acessem nossos dados mais sensíveis e nos permitam realizar ações críticas em nosso nome! Não podemos terceirizar a responsabilidade pelos comportamentos inteligentes realizados em nosso nome. ... Em outras palavras, precisamos separar a oferta de inteligência de seus privilégios.”
Ao anunciar os Guardian Agents, Hayete Gallot, responsável pelo negócio de segurança da Microsoft, foi mais direto.
Ela escreveu: “Infelizmente, modelos de ponta, independentemente da fonte, não podem ser confiados.” Ela acrescentou que isso não se deve ao fato de eles serem maliciosos ou fáceis de serem hackeados, mas sim porque são imprevisíveis. Seus objetivos de treinamento são completar tarefas, não seguir “normas organizacionais ou julgamentos”.
Além disso, esses modelos frequentemente recebem permissões semelhantes às “chaves do reino”, permitindo acesso a dados e ferramentas que podem causar danos graves.
A solução da Microsoft é surpreendente e também autointeressada. O aspecto surpreendente reside no fato de que a relação da Microsoft com a OpenAI e a Anthropic é amplamente conhecida como muito próxima, e a Microsoft já investiu nessas duas empresas. A OpenAI é também um dos maiores clientes de nuvem da Microsoft, e a própria Microsoft possui um laboratório de IA dedicado ao desenvolvimento de modelos. Portanto, a Microsoft está, na verdade, plantando desconfiança em partes de seus próprios interesses comerciais.
O benefício próprio reside no fato de que a Microsoft deseja que as empresas comprem produtos de segurança de agente dela, como provedora de serviços em nuvem, em vez de comprá-los da Anthropic e da OpenAI. No entanto, independentemente do conflito de interesses, sua lógica é razoável. O software que monitora o comportamento dos agentes deve ser independente do fornecedor dos agentes, assim como auditores devem ser independentes das organizações auditadas.
Como Nadella disse: "Precisamos separar a oferta de inteligência de seus direitos."
A Microsoft está aproveitando essa oportunidade comercial de várias maneiras. Além do Guardian Agents, a empresa incorporou funcionalidades de detecção de agentes no produto Microsoft Defender, capazes de identificar até 60 tipos de agentes que funcionários trazem para o local de trabalho, incluindo Claude Code, Codex e OpenClaw. A Microsoft também adicionou recursos para restringir o acesso dos agentes a dados e sistemas, ajustando dinamicamente as permissões dos agentes conforme a tarefa, incluindo a exigência de aprovação humana quando os agentes parecem estar tomando decisões de alto risco.
A ideia de tratar agentes como funcionários internos não confiáveis também está se tornando popular em toda a indústria.
A Microsoft é um dos membros fundadores da nova Open Agent Safety Platform da NVIDIA, plataforma que conta com o apoio de mais de 100 outras empresas de tecnologia. A plataforma isola agentes em ambientes seguros e pode monitorar e bloquear suas ações por meio de hardware, funcionando de forma semelhante a um “botão de desligamento”. Isso segue o anúncio anterior da Microsoft sobre o lançamento de novos Surface Laptop Ultra PCs voltados para agentes, equipados com chips da NVIDIA e com funcionalidades integradas de segurança e controle de agentes.