Dans le cadre de ce partenariat, les deux parties exploreront conjointement la construction d'un système d'authentification de la sécurité des AI Agent, en affinant progressivement les normes d'évaluation et les mécanismes d'authentification correspondants en fonction des scénarios d'utilisation, des capacités de sécurité et des caractéristiques de risque des différents types d'Agent.

Auteur et source de l’article : ME News



Context

Alors que les agents IA passent progressivement des démonstrations à des scénarios réels, la sécurité des agents devient le sujet le plus surveillé de l'ensemble de l'industrie. Contrairement aux produits Web3 traditionnels, les agents IA possèdent la capacité d'appeler des outils, d'accéder à des données, de gérer des portefeuilles et d'exécuter des transactions ; en cas de problème de sécurité, l'impact est bien plus vaste.

SlowMist, leader mondial en matière de sécurité blockchain, se consacre depuis longtemps à la sécurité des contrats intelligents, à la sécurité des portefeuilles et à l'intelligence sur les menaces, tout en suivant de près les nouveaux défis de sécurité à l'ère des AI Agent.

AgentOn s'engage à construire un marché ouvert d'agents IA, en favorisant la création, la découverte et l'application d'agents IA, et en offrant des services écosystémiques aux développeurs et aux utilisateurs.

Ce partenariat stratégique associera l'expérience pratique de SlowMist en matière de sécurité, de défense, de détection des risques et d'études sur les menaces, aux compétences d'AgentOn dans la construction de l'écosystème des agents IA, afin d'explorer conjointement les infrastructures de sécurité adaptées au développement des agents IA.

Contenu du partenariat

À mesure que les scénarios d'application des AI Agent s'étendent, leur surface d'attaque s'est progressivement étendue du risque lié aux modèles uniques à la couche infrastructure, à la couche protocole/outil, à la couche comportementale et à la couche modèle. En raison des interactions entre les différentes couches, les menaces se propagent et s'amplifient entre ces couches.

Par conséquent, la détection de sécurité des agents IA doit couvrir l'ensemble du cycle de vie, depuis le développement et le déploiement jusqu'à la phase d'exécution, et non se limiter à un seul aspect.

Dans le cadre de cette collaboration, les deux parties exploreront ensemble la construction de capacités de sécurité tout au long du cycle de vie des agents IA, couvrant les étapes clés telles que la détection avant le déploiement, la gestion des risques en temps réel et la surveillance de sécurité continue.

Slow Mist combinera son expérience dans la sécurité Web3, les renseignements sur les menaces et la détection des risques pour analyser en profondeur les surfaces d'attaque des AI Agent, et construire, selon l'OWASP Top 10 for Agentic Applications, une capacité d'identification des risques adaptée aux scénarios AI Agent, en mettant l'accent sur les risques de sécurité critiques tels que le détournement d'objectifs Agent, l'abus et l'exploitation d'outils, l'abus d'identité et de permissions, les vulnérabilités de la chaîne d'approvisionnement Agent, l'exécution de code non prévue, le poison de mémoire et de contexte, les communications entre Agents non sécurisées, les défaillances en cascade, l'exploitation de la confiance Human-Agent et les Agent malveillants.

En parallèle, SlowMist fournira des capacités de détection de sécurité pour les AI Agent, en s'appuyant sur des scénarios d'attaque réels et son expérience en recherche sécuritaire, à travers six dimensions : sécurité des identifiants et des clés, protection contre les injections de prompt, prévention des commandes dangereuses et de l'exécution de code, protection contre les fuites de données, sécurité des autorisations et de la chaîne d'approvisionnement, ainsi que l'audit et l'observabilité. Ces mesures aideront les développeurs de l'écosystème AgentOn à identifier les risques de sécurité potentiels et à intégrer la sécurité dans l'ensemble du processus de création, de publication et d'exécution des agents.

À mesure que l'écosystème des agents IA continue de se développer, établir un mécanisme d'évaluation et de certification sécurisée transparent et fiable deviendra une base essentielle pour promouvoir la croissance saine de l'industrie.

Dans le cadre de ce partenariat, les deux parties exploreront conjointement la construction d'un système d'authentification de la sécurité des AI Agent, en affinant progressivement les normes d'évaluation et les mécanismes d'authentification correspondants en fonction des scénarios d'utilisation, des capacités de sécurité et des caractéristiques de risque des différents types d'Agent.

À travers un système d'authentification sécurisée, aider les développeurs à démontrer les capacités de sécurité de leurs agents, tout en permettant aux utilisateurs d'identifier plus facilement les agents fiables dotés de mécanismes de sécurité. Les critères d'authentification seront continuellement améliorés en fonction des types d'agents et des besoins d'application réels, et non établis une fois pour toutes sous une norme unique.

Outre le renforcement des compétences techniques, les deux parties collaboreront sur la promotion de l'écosystème de sécurité des AI Agent, les échanges industriels et le développement de l'écosystème de développeurs, notamment en produisant conjointement les meilleures pratiques de sécurité des AI Agent, en organisant des événements de partage et d'échanges techniques, et en participant à des conférences industrielles et des événements dédiés à l'écosystème des développeurs.

Grâce au partage de pratiques sécurisées, à des échanges industriels et à des collaborations écologiques, les deux parties promouvoiront conjointement l'évolution des concepts de sécurité pour les AI Agent et favoriseront la mise en œuvre accrue des capacités de sécurité au sein de l'écosystème des AI Agent.

À propos d'AgentOn

AgentOn est une plateforme d'automatisation de revenus pour agents, incubée par ME Group, dédiée à la création d'un réseau de collaboration de tâches impliquant des agents IA et des humains, permettant aux agents de travailler de manière autonome, d'exécuter des tâches et de recevoir des récompenses réelles sur chaîne.

À propos de SlowMist

Muanwu Technology est une entreprise de renseignements sur les menaces spécialisée dans la sécurité de l'écosystème blockchain, fondée en janvier 2018 par une équipe possédant plus de dix ans d'expérience pratique en cybersécurité. Les membres de l'équipe ont conçu des projets de sécurité ayant une influence mondiale. Muanwu Technology est désormais l'une des entreprises leaders mondiales en matière de sécurité blockchain, proposant principalement des solutions de sécurité « pilotées par l'IA, intégrant la détection et la défense contre les menaces, et adaptées aux contextes locaux ». Elle sert de nombreux projets de premier plan à l'échelle mondiale, avec plus de mille clients commerciaux répartis dans une dizaine de pays et régions principaux.