Nesta parceria, ambas as partes explorarão conjuntamente a construção de um sistema de certificação de segurança para AI Agents, aprimorando gradualmente os padrões de avaliação e os mecanismos de certificação correspondentes, com base nos cenários de aplicação, capacidades de segurança e características de risco de diferentes tipos de Agents.

Autor e fonte do artigo: ME News



Contexto

À medida que os Agentes de IA avançam dos demos para cenários reais, a segurança dos agentes está se tornando o tópico mais preocupante para toda a indústria. Em comparação com produtos Web3 tradicionais, os Agentes de IA possuem capacidades como invocar ferramentas, acessar dados, gerenciar carteiras e executar transações; caso ocorram problemas de segurança, o impacto será muito maior.

SlowMist Technologies, como uma das principais empresas globais de segurança blockchain, dedica-se continuamente a áreas como segurança de contratos inteligentes, segurança de carteiras e inteligência de ameaças, mantendo-se atenta aos novos desafios de segurança na era dos AI Agents.

AgentOn dedica-se à construção de um mercado aberto de AI Agents, impulsionando a criação, descoberta e aplicação de AI Agents, oferecendo serviços para o ecossistema de AI Agents a desenvolvedores e usuários.

Nesta parceria estratégica, as duas partes combinarão a experiência prática da SlowMist em segurança ofensiva e defensiva, detecção de riscos e pesquisa de ameaças com a capacidade de aplicação da AgentOn na construção do ecossistema de AI Agents, buscando conjuntamente infraestruturas de segurança adequadas ao desenvolvimento de AI Agents.

Conteúdo da parceria

À medida que os cenários de aplicação de AI Agents se expandem, sua superfície de ataque evoluiu de riscos individuais de modelos para incluir camadas de infraestrutura, protocolo/ferramenta, comportamento e modelo. Como existem interações entre as diferentes camadas, as ameaças se propagam e se amplificam entre elas.

Portanto, a detecção de segurança do AI Agent precisa abranger todo o ciclo de vida, desde o desenvolvimento, implantação até a fase de operação, e não se limitar a um único estágio.

Nesta parceria, ambas as partes explorarão conjuntamente a construção de capacidades de segurança no ciclo de vida dos Agentes de IA, abrangendo etapas cruciais como detecção antes da implantação do agente, governança de riscos em tempo de execução e monitoramento de segurança contínuo.

A SlowMist combinará sua experiência em segurança Web3, inteligência de ameaças e detecção de riscos para realizar uma análise aprofundada das principais superfícies de ataque de AI Agents e, com base no OWASP Top 10 for Agentic Applications, construir capacidades de identificação de riscos voltadas para cenários de AI Agents, com foco em riscos de segurança críticos, como sequestro de objetivos de Agent, uso e exploração incorretos de ferramentas, abuso de identidade e permissões, vulnerabilidades na cadeia de suprimentos de Agent, execução de código não esperada, envenenamento de memória e contexto, comunicação insegura entre Agents, falhas em cascata, exploração da confiança Human-Agent e Agents maliciosos.

Ao mesmo tempo, SlowMist integrará cenários reais de ataque e experiência em pesquisa de segurança para fornecer capacidades de detecção de segurança para AI Agent em seis dimensões: segurança de credenciais e chaves, proteção contra Prompt Injection, comandos perigosos e execução de código, proteção contra vazamento de dados, segurança de permissões e cadeia de suprimentos, e auditoria e observabilidade, ajudando os desenvolvedores no ecossistema AgentOn a identificar riscos de segurança potenciais e promover a integração de capacidades de segurança em todo o processo de criação, lançamento e execução de Agentes.

À medida que o ecossistema de AI Agents continua a se desenvolver, estabelecer mecanismos transparentes e confiáveis de avaliação e certificação de segurança se tornará uma base fundamental para impulsionar o crescimento saudável da indústria.

Nesta parceria, ambas as partes explorarão conjuntamente a construção de um sistema de certificação de segurança para AI Agents, aprimorando gradualmente os padrões de avaliação e os mecanismos de certificação correspondentes, com base nos cenários de aplicação, capacidades de segurança e características de risco de diferentes tipos de Agents.

Através da exploração de um sistema de certificação de segurança, ajuda os desenvolvedores a demonstrar a capacidade de segurança de seus Agentes, ao mesmo tempo em que permite aos usuários identificar mais facilmente Agentes confiáveis com capacidades de segurança. Os padrões de certificação serão continuamente aprimorados conforme os tipos de Agentes e as necessidades de aplicação reais, em vez de serem estabelecidos como uma norma única e definitiva.

Além da construção de capacidades técnicas, as duas partes colaborarão na promoção do ecossistema de segurança de AI Agent, intercâmbio industrial e construção do ecossistema de desenvolvedores, incluindo a produção conjunta de melhores práticas de segurança de AI Agent, realização de eventos de compartilhamento e troca técnica, e participação em conferências industriais e atividades do ecossistema de desenvolvedores.

Por meio da partilha de práticas seguras, intercâmbio industrial e cooperação ecológica, ambas as partes impulsionarão conjuntamente o desenvolvimento da filosofia de segurança de AI Agent e promoverão a implementação mais ampla de capacidades de segurança no ecossistema de AI Agent.

Sobre o AgentOn

AgentOn é uma plataforma de automação de renda para Agentes, incubada pelo ME Group, dedicada a construir uma rede de colaboração de tarefas envolvendo Agentes de IA e humanos, permitindo que os Agentes trabalhem de forma autônoma, executem tarefas e recebam recompensas reais na cadeia.

Sobre o SlowMist

A Muanwu Technology é uma empresa de inteligência de ameaças focada na segurança do ecossistema blockchain, fundada em janeiro de 2018 por uma equipe com mais de dez anos de experiência prática em cibersegurança e ataques e defesas. Os membros da equipe já desenvolveram projetos de segurança com influência mundial. A Muanwu Technology já é uma das principais empresas internacionais de segurança blockchain, oferecendo soluções de segurança “impulsionadas por IA, integradas da descoberta à defesa contra ameaças e adaptadas ao contexto local”, atendendo a centenas de projetos líderes e renomados globalmente, com mais de mil clientes comerciais distribuídos em mais de dez países e regiões principais.