В рамках этого сотрудничества обе стороны совместно исследуют создание системы сертификации безопасности AI Agent, постепенно совершенствуя соответствующие стандарты оценки и механизмы сертификации с учетом сценариев применения, функций безопасности и характеристик рисков различных типов Agent.

Автор и источник статьи: ME News



Контекст

По мере того как AI Agent постепенно переходит от демо-версий к реальным сценариям, вопросы безопасности агентов становятся наиболее актуальной темой для всей отрасли. В отличие от традиционных веб3-продуктов, AI Agent обладает способностью вызывать инструменты, получать доступ к данным, управлять кошельками и выполнять транзакции; в случае возникновения проблем с безопасностью последствия будут более масштабными.

SlowMist — ведущая мировая компания по безопасности блокчейна, долгое время специализирующаяся на безопасности смарт-контрактов, кошельков и угрозах, а также постоянно отслеживающая новые вызовы безопасности в эпоху AI Agent.

AgentOn стремится создать открытую платформу AI Agent, способствуя созданию, поиску и применению AI Agent, предоставляя экосистемные услуги для разработчиков и пользователей.

В рамках этого стратегического партнерства стороны объединят опыт Slow Mist в области безопасности, обнаружения рисков и исследований угроз с возможностями AgentOn в построении экосистемы AI-агентов, совместно разрабатывая безопасную инфраструктуру, адаптированную для развития AI-агентов.

Содержание сотрудничества

По мере расширения сценариев применения AI Agent их поверхность атаки постепенно расширилась от рисков, связанных с отдельными моделями, до уровня инфраструктуры, протоколов/инструментов, поведенческого уровня и уровня моделей. Поскольку между различными уровнями существуют взаимосвязи, угрозы распространяются и усиливаются между этими уровнями.

Следовательно, безопасность AI-агента должна охватывать весь жизненный цикл — от разработки и развертывания до этапа выполнения, а не ограничиваться отдельными этапами.

В рамках этого сотрудничества обе стороны совместно исследуют создание возможностей безопасности на всех этапах жизненного цикла AI Agent, включая проверку перед запуском, управление рисками в процессе выполнения и непрерывный мониторинг безопасности.

Медленный туман на основе своего опыта в области безопасности Web3, угроз и обнаружения рисков проведет глубокий анализ ключевых векторов атак на AI Agent и, опираясь на OWASP Top 10 for Agentic Applications, разработает способности по выявлению рисков, специфичных для сценариев AI Agent, уделяя особое внимание таким критическим рискам безопасности, как захват целей агента, неправильное использование и эксплуатация инструментов, злоупотребление идентификацией и правами, уязвимости цепочки поставок агента, неожиданное выполнение кода, отравление памяти и контекста, небезопасная коммуникация между агентами, каскадные сбои, эксплуатация доверия между человеком и агентом, а также вредоносные агенты.

В то же время SlowMist предоставит возможности для обнаружения уязвимостей в AI Agent на основе реальных сценариев атак и опыта исследований в области безопасности, охватывая шесть ключевых аспектов: безопасность учетных данных и ключей, защита от Prompt Injection, защита от опасных команд и выполнения кода, предотвращение утечки данных, безопасность прав доступа и цепочки поставок, а также аудит и наблюдаемость, помогая разработчикам в экосистеме AgentOn выявлять потенциальные риски безопасности и интегрировать меры безопасности на всех этапах создания, публикации и выполнения Agent.

По мере развития экосистемы AI-агентов создание прозрачных и надежных механизмов оценки и сертификации безопасности станет важной основой для устойчивого развития отрасли.

В рамках этого сотрудничества обе стороны совместно исследуют создание системы сертификации безопасности AI Agent, постепенно совершенствуя соответствующие стандарты оценки и механизмы сертификации с учетом сценариев применения, функций безопасности и характеристик рисков различных типов Agent.

С помощью системы безопасной сертификации помогаем разработчикам продемонстрировать безопасные возможности своих агентов, а пользователям — легче идентифицировать надежных агентов с гарантией безопасности. Стандарты сертификации будут постоянно совершенствоваться в зависимости от типа агентов и реальных потребностей в применении, а не будут установлены едиными нормами раз и навсегда.

Помимо развития технических возможностей, стороны также будут сотрудничать в области продвижения экосистемы безопасности AI Agent, отраслевого обмена и развития экосистемы разработчиков, включая совместную публикацию лучших практик безопасности AI Agent, проведение технических мероприятий и обменов, участие в отраслевых конференциях и мероприятиях по развитию экосистемы разработчиков и т.д.

Благодаря обмену практиками безопасности, отраслевому взаимодействию и экосистемному сотрудничеству, обе стороны совместно продвигать развитие концепций безопасности AI Agent и способствовать дальнейшему внедрению возможностей безопасности в экосистеме AI Agent.

О AgentOn

AgentOn — это платформа для автоматического заработка агентов, разработанная ME Group, которая стремится создать сеть задач, в которой участвуют AI-агенты и люди, позволяя агентам самостоятельно выполнять задачи и получать реальные награды в блокчейне.

О SlowMist

Muanwu Technology — это компания по безопасности блокчейн-экосистемы, специализирующаяся на сборе угроз, основанная в январе 2018 года командой с более чем десятилетним опытом практической работы в области кибербезопасности. Члены команды создали безопасные решения мирового уровня. Muanwu Technology уже является одной из ведущих международных компаний в области безопасности блокчейна, предоставляя интегрированные решения по безопасности, основанные на ИИ, от обнаружения угроз до их предотвращения, с учетом специфики каждого случая. Компания обслуживает множество ведущих и известных проектов по всему миру, насчитывая более тысячи коммерческих клиентов, расположенных в десятках основных стран и регионов.