У рамках цієї співпраці сторони спільно досліджуватимуть створення системи безпекової сертифікації AI Agent, поступово вдосконалюючи відповідні стандарти оцінки та механізми сертифікації з урахуванням сценаріїв застосування, безпекових можливостей та ризиків різних типів Agent.

Автор статті, джерело: ME News



Контекст

Зі зростанням використання AI Agent від демонстрацій до реальних сценаріїв, питання безпеки агентів стає найбільш важливим у галузі. У порівнянні з традиційними Web3-продуктами, AI Agent має здатність використовувати інструменти, отримувати доступ до даних, керувати гаманцями та виконувати угоди — у разі виникнення проблем з безпекою, наслідки можуть бути значно більш серйозними.

SlowMist — провідна світова компанія з безпеки блокчейну, яка довгий час спеціалізується на безпеці смарт-контрактів, гаманців, інтелектуальній інформації про загрози та постійно стежить за новими викликами безпеки в епоху AI Agent.

AgentOn присвячена створенню відкритої ринкової платформи для AI Agent, сприяючи створенню, виявленню та застосуванню AI Agent, надаючи екосистемні сервіси для розробників та користувачів.

У рамках цієї стратегічної співпраці сторони поєднають досвід SlowMist у сфері безпеки, виявлення ризиків та дослідження загроз з можливостями AgentOn у розробці екосистеми AI Agent, щоб спільно дослідити безпечну інфраструктуру, придатну для розвитку AI Agent.

Зміст співпраці

З розширенням сценаріїв використання AI Agent, їхній поверх атаки поступово розширився від ризиків, пов’язаних з окремими моделями, до інфраструктурного, протокольного/інструментального, поведінкового та моделювального рівнів. Оскільки між різними рівнями існують взаємозв’язки, загрози поширюються та посилюються між ними.

Тому безпека AI-агентів повинна охоплювати повний життєвий цикл — від розробки та розгортання до експлуатації, а не обмежуватися окремим етапом.

У рамках цієї співпраці сторони спільно дослідять побудову здатностей безпеки в життєвому циклі AI Agent, охоплюючи ключові етапи: перевірку перед запуском Agent, управління ризиками під час виконання та постійний моніторинг безпеки.

Меджів поєднає свій досвід у сфері безпеки Web3, інтелекту про загрози та виявлення ризиків для глибокого аналізу ключових атак на AI Agent та, згідно з OWASP Top 10 for Agentic Applications, створить здатність виявлення ризиків, спрямовану на сценарії AI Agent, з особливим акцентом на таких ключових безпекових ризиках, як захоплення цілей Agent, неправильне використання та експлуатація інструментів, зловживання ідентичністю та правами, вразливості ланцюжка постачання Agent, непередбачуване виконання коду, отруєння пам’яті та контексту, небезпечна між-Agent комунікація, каскадні відмови, експлуатація довіри Human-Agent та шкідливі Agent.

Одночасно SlowMist надасть можливості безпеки для AI Agent, засновані на реальних сценаріях атак та досвіді досліджень безпеки, охоплюючи шість напрямків: безпека облікових даних та ключів, захист від Prompt Injection, небезпечні команди та виконання коду, захист від витоку даних, безпека прав та ланцюжка постачання, аудит та спостережуваність, щоб допомогти розробникам у екосистемі AgentOn виявляти потенційні ризики безпеки та інтегрувати здатності безпеки в увесь життєвий цикл створення, публікації та виконання Agent.

З розвитком екосистеми AI Agent створення прозорих та надійних механізмів оцінки та сертифікації безпеки стане важливою основою для здорового розвитку галузі.

У рамках цієї співпраці сторони спільно досліджуватимуть створення системи безпекової сертифікації AI Agent, поступово вдосконалюючи відповідні стандарти оцінки та механізми сертифікації з урахуванням сценаріїв застосування, безпекових можливостей та ризиків різних типів Agent.

Шляхом дослідження системи безпеки аутентифікації допомагає розробникам продемонструвати безпеку своїх агентів, а користувачам — легше визначати надійних агентів з можливостями забезпечення безпеки. Стандарти аутентифікації постійно вдосконалюватимуться залежно від типів агентів та реальних потреб застосування, а не будуть встановлені одноразово як єдиний норматив.

Крім будівництва технічних здібностей, сторони також співпрацюватимуть у сфері просування екосистеми безпеки AI Agent, галузевих обмінів та розвитку екосистеми розробників, включаючи спільне створення Best Practice з безпеки AI Agent, проведення технічних семінарів та заходів з обміну досвідом, участь у галузевих конференціях та заходах для розробників тощо.

Шляхом обміну досвідом у сфері безпеки, галузевої взаємодії та співпраці в екосистемі, обидві сторони спільно сприятимуть розвитку ідей безпеки AI Agent та сприятимуть подальшому впровадженню здатностей безпеки в екосистемі AI Agent.

Про AgentOn

AgentOn — це платформа для автоматичного отримання прибутку агентами, розроблена ME Group, яка створює мережу співпраці завдань з участю AI-агентів та людей, дозволяючи агентам самостійно працювати, виконувати завдання та отримувати реальні ланцюгові винагороди.

Про SlowMist

Muanwu Technology — це компанія зі збору інформації про загрози, що спеціалізується на безпеці екосистеми блокчейну. Заснована у січні 2018 року командою з більш ніж десятирічним досвідом практичної кібербезпеки, члени команди раніше створили безпечні інженерні рішення світового рівня. Muanwu Technology вже є провідною міжнародною компанією у сфері безпеки блокчейну, пропонуючи інтегровані рішення для безпеки, що базуються на штучному інтелекті, від виявлення загроз до їхнього захисту, з урахуванням місцевих умов. Компанія обслуговує численні провідні та відомі проекти по всьому світу, має понад тисячу комерційних клієнтів, які розташовані в десятках ключових країн та регіонів.