En esta colaboración, ambas partes explorarán conjuntamente la construcción de un sistema de certificación de seguridad para AI Agent, perfeccionando progresivamente los estándares de evaluación y los mecanismos de certificación correspondientes en función de los escenarios de aplicación, las capacidades de seguridad y los rasgos de riesgo de diferentes tipos de Agent.

Autor y fuente del artículo: ME News



Contexto

A medida que los Agentes de IA avanzan desde la demostración hacia escenarios reales, la seguridad de los Agentes se ha convertido en el tema de mayor interés para toda la industria. En comparación con los productos tradicionales de Web3, los Agentes de IA tienen la capacidad de invocar herramientas, acceder a datos, gestionar carteras y ejecutar transacciones; por lo tanto, cualquier problema de seguridad podría tener un impacto mucho más amplio.

SlowMist, como empresa líder mundial en seguridad blockchain, se ha dedicado durante mucho tiempo a la seguridad de contratos inteligentes, seguridad de billeteras e inteligencia de amenazas, y continúa prestando atención a los nuevos desafíos de seguridad en la era de los AI Agent.

AgentOn se dedica a construir un mercado abierto de AI Agentes, impulsando la creación, descubrimiento y aplicación de AI Agentes, y ofreciendo servicios ecológicos para desarrolladores y usuarios.

Esta cooperación estratégica combinará la experiencia práctica de SlowMist en defensa y ataque de seguridad, detección de riesgos e investigación de amenazas, con la capacidad de AgentOn en el desarrollo del ecosistema de AI Agent, para explorar conjuntamente la infraestructura de seguridad adecuada para el desarrollo de AI Agent.

Contenido de la colaboración

A medida que los escenarios de aplicación de los AI Agent se amplían, su superficie de ataque ha evolucionado desde riesgos individuales de modelos hasta incluir la capa de infraestructura, la capa de protocolo/herramientas, la capa de comportamiento y la capa de modelo. Debido a las interacciones entre diferentes capas, las amenazas se propagan y amplifican entre ellas.

Por lo tanto, la detección de seguridad de los Agentes de IA debe cubrir todo el ciclo de vida, desde el desarrollo, la implementación hasta la fase de operación, y no limitarse a un solo paso.

En esta colaboración, ambas partes explorarán conjuntamente la construcción de capacidades de seguridad en el ciclo de vida de los Agentes de IA, abarcando etapas clave como la detección antes del lanzamiento del agente, la gestión de riesgos en tiempo de ejecución y la monitorización de seguridad continua.

Slow Mist combinará su experiencia en seguridad Web3, inteligencia de amenazas y detección de riesgos para realizar un análisis profundo de las superficies de ataque clave de los AI Agentes, y construirá capacidades de identificación de riesgos orientadas a escenarios de AI Agentes según OWASP Top 10 for Agentic Applications, centrándose especialmente en riesgos de seguridad críticos como el secuestro de objetivos del Agente, el mal uso y explotación de herramientas, el abuso de identidad y permisos, vulnerabilidades en la cadena de suministro del Agente, ejecución de código no prevista, envenenamiento de memoria y contexto, comunicación insegura entre Agentes, fallos en cascada, explotación de confianza Human-Agent y Agentes maliciosos.

Al mismo tiempo, SlowMist combinará escenarios de ataques reales y experiencia en investigación de seguridad para ofrecer capacidades de detección de seguridad para AI Agent en seis dimensiones: seguridad de credenciales y claves, protección contra Prompt Injection, comandos peligrosos y ejecución de código, protección contra filtración de datos, seguridad de permisos y cadena de suministro, y auditoría y observabilidad, ayudando a los desarrolladores en el ecosistema AgentOn a identificar riesgos de seguridad potenciales y promoviendo la integración de capacidades de seguridad en todo el proceso de creación, publicación y ejecución de Agentes.

A medida que el ecosistema de AI Agent continúa desarrollándose, establecer mecanismos transparentes y confiables de evaluación y certificación de seguridad se convertirá en una base fundamental para impulsar el crecimiento saludable de la industria.

En esta colaboración, ambas partes explorarán conjuntamente la construcción de un sistema de certificación de seguridad para AI Agent, perfeccionando progresivamente los estándares de evaluación y los mecanismos de certificación correspondientes en función de los escenarios de aplicación, las capacidades de seguridad y los rasgos de riesgo de diferentes tipos de Agent.

A través de la exploración del sistema de certificación de seguridad, se ayuda a los desarrolladores a demostrar la capacidad de seguridad de sus Agentes, y se facilita a los usuarios identificar de manera más sencilla los Agentes confiables con capacidades de seguridad. Los estándares de certificación se perfeccionarán continuamente según los distintos tipos de Agentes y las necesidades de aplicación reales, en lugar de establecerse como una norma única y definitiva.

Además de la construcción de capacidades técnicas, ambas partes colaborarán en la promoción del ecosistema de seguridad de AI Agent, el intercambio industrial y el desarrollo del ecosistema de desarrolladores, incluyendo la producción conjunta de mejores prácticas de seguridad para AI Agent, la realización de actividades de intercambio y divulgación técnica, y la participación en conferencias industriales y eventos del ecosistema de desarrolladores.

A través de la compartición de prácticas seguras, intercambios industriales y colaboración ecológica, ambas partes impulsarán conjuntamente el desarrollo de la filosofía de seguridad para AI Agent y fomentarán la implementación adicional de capacidades de seguridad en el ecosistema de AI Agent.

Sobre AgentOn

AgentOn es una plataforma de generación automática de ingresos para Agentes, incubada por ME Group, dedicada a construir una red de colaboración en tareas en la que participan Agentes de IA y humanos, permitiendo que los Agentes trabajen de forma autónoma, ejecuten tareas y reciban recompensas reales en la cadena.

Sobre SlowMist

Muanwu Technology es una empresa de inteligencia de amenazas especializada en la seguridad del ecosistema blockchain, fundada en enero de 2018 por un equipo con más de una década de experiencia práctica en ciberseguridad y defensa. Los miembros del equipo han desarrollado proyectos de seguridad con influencia mundial. Muanwu Technology ya es una empresa líder internacional en seguridad blockchain, ofreciendo soluciones de seguridad "impulsadas por IA, integradas desde la detección hasta la defensa de amenazas y adaptadas a cada contexto", sirviendo a numerosos proyectos líderes y reconocidos a nivel global, con más de mil clientes comerciales distribuidos en una docena de países y regiones principales.