Evoke Security lança a primeira "Avaliação de Agente Rogue" para identificar comportamento de agente de IA de alto risco

icon币界网
Compartilhar
AI summary iconResumo
A Evoke Security introduziu a primeira "Avaliação de Agente Rogue" para detectar o uso indevido de agentes de IA em ambientes de segurança empresarial. O framework avalia o comportamento dos agentes em quatro dimensões: Missão, Método, Motivo e Magnitude. Ele monitora ações atuais e históricas, não apenas malconfigurações. A empresa enfatiza a necessidade de orientação em tempo real, pois os agentes podem criar riscos mesmo durante tarefas legítimas. As organizações agora podem acessar a avaliação para gerenciar melhor a exposição à IA e definir limites seguros sem interromper fluxos de trabalho. A ferramenta apoia iniciativas de segurança blockchain, ajudando empresas a identificar e mitigar comportamentos de alto risco.
Relatório do CoinNews:

Washington, 28 de outubro de 2026 /PRNewswire/ -- A plataforma de segurança para força de trabalho agentiva Evoke Security lança hoje o primeiro programa da indústria para identificar o uso indevido e agentes descontrolados em principais plataformas de IA e cadeias de ferramentas de codificação. O programa, denominado "Rogue Agent Assessment", ajuda as organizações a entender como os funcionários utilizam agentes, quando os agentes são mal utilizados e quando violam instruções explícitas.

À medida que os funcionários integram o uso de agentes em seus fluxos de trabalho diários, as equipes de segurança enfrentam um desafio que as ferramentas de segurança atuais ainda não resolvem. Os agentes podem realizar ações que expõem dados sensíveis, ampliam permissões de acesso ou criam riscos desnecessários, mesmo enquanto concluem as tarefas atribuídas. Hoje, saber apenas se o agente seguiu as instruções já não é suficiente para determinar se sua operação é segura.

Jason Rebholz, cofundador e CEO da Evoke Security, disse: “Cada organização com a qual trabalhamos enfrenta os mesmos dois tipos de risco: uso indevido de agentes por funcionários e perda de controle dos agentes. Os agentes estão contornando controles de segurança e realizando ações que nenhuma equipe de segurança aprovaria. Um único movimento de agente pode parecer seguro, mas é a sequência completa de ações do agente que revela a história inteira. É por isso que a Evoke monitora a trajetória completa dos agentes, identifica quando eles estão se encaminhando para caminhos de alto risco e os redireciona de volta para trajetórias seguras ou os bloqueia antes que causem danos.”

A Evoke afirma que a diferença deste primeiro programa de avaliação do setor está em seu foco em monitorar o comportamento em tempo real e histórico dos agentes, e não apenas configurações incorretas. Baseando-se na experiência de sua equipe fundadora em resposta a incidentes e no cargo de Chief Information Security Officer (CISO), a Evoke desenvolveu um framework para identificar agentes descontrolados em quatro dimensões.

  • Missão: Esta ação está alinhada com o objetivo original do agente?
  • Método (Method): Esta ação é razoável para a tarefa?
  • Motivo (Motive): Que intenção esse comportamento sugere?
  • Escopo do impacto (Magnitude): Como esta ação amplia o raio de risco potencial?

A empresa afirma que esta é uma camada do método de detecção em profundidade da Evoke, ajudando as equipes de segurança a distinguir entre agentes que operam conforme o esperado e aqueles que introduzem riscos substanciais. O framework não considera cada ação anômala como uma ameaça, mas sim ajuda a determinar se o agente deve continuar operando, ser direcionado para um caminho mais seguro ou ser bloqueado.

Evoke afirmou que a empresa está ativamente colaborando com empresas de IA nativa para monitorar e controlar o comportamento de agentes de IA. Avaliações mostram que agentes podem introduzir novos riscos mesmo ao executar tarefas legítimas, reforçando a importância do monitoramento em tempo real e da orientação do comportamento dos agentes. Em uma avaliação, a Evoke descobriu que um agente de codificação responsável por uma revisão de segurança escapou de seu próprio sandbox e, em seguida, mentiu para o usuário.

A "Avaliação de Agentes Descontrolados" fornece às organizações uma abordagem estruturada para avaliar sua postura de segurança de agentes em três áreas-chave.

  • Uso indevido de proxy: Identifique situações em que proxies contornam controles de segurança existentes ou violam políticas de uso.
  • Agente descontrolado: Identificar situações em que o agente deixa de seguir instruções ou adota caminhos desnecessariamente arriscados.
  • Shadow AI: Detect unauthorized AI products, MCPs or Agent Skills used in the environment.

A empresa afirma que, ao combinar essas capacidades, o Evoke oferece às organizações uma avaliação especificamente projetada para desafios de segurança de agentes autônomos. As equipes de segurança terão uma compreensão mais clara de quais agentes estão presentes, como eles operam, onde os riscos surgem e quais ações exigem intervenção.

Evoke afirma que a "Avaliação de Agente Descontrolado" agora está disponível para organizações que desejam compreender melhor sua exposição de agentes de IA e estabelecer limites de segurança eficazes sem restringir excessivamente o trabalho.

Sobre a Evoke Security

A Evoke Security é uma plataforma de detecção e resposta baseada em IA, projetada especificamente para proteger agentes de IA. Fundada por especialistas renomados no campo de resposta a incidentes, sua plataforma ajuda as equipes de segurança a mapear continuamente, modelar ameaças e monitorar agentes de IA. A Evoke considera os agentes como o próximo sistema operacional das empresas, implementando controles rigorosos ao identificar configurações de alto risco e analisar comportamentos e ações em tempo real, garantindo que as empresas possam avançar na inovação sem acumular dívidas de segurança.

Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.