Trong hợp tác này, hai bên sẽ cùng nhau khám phá việc xây dựng hệ thống xác thực an toàn cho AI Agent, dựa trên các kịch bản ứng dụng, năng lực an toàn và đặc điểm rủi ro của các loại Agent khác nhau, từng bước hoàn thiện các tiêu chuẩn đánh giá và cơ chế xác thực tương ứng.

Tác giả bài viết, nguồn: ME News



Bối cảnh

Khi AI Agent dần từ bản demo chuyển sang các tình huống thực tế, vấn đề bảo mật của Agent đang trở thành chủ đề được quan tâm nhất trong toàn ngành. So với các sản phẩm Web3 truyền thống, AI Agent có khả năng gọi công cụ, truy cập dữ liệu, quản lý ví và thực hiện giao dịch; nếu xảy ra sự cố bảo mật, phạm vi ảnh hưởng sẽ lớn hơn nhiều.

SlowMist là công ty bảo mật blockchain hàng đầu toàn cầu, chuyên sâu lâu dài vào các lĩnh vực như bảo mật hợp đồng thông minh, bảo mật ví, tình báo đe dọa và liên tục theo dõi các thách thức bảo mật mới trong thời đại AI Agent.

AgentOn cam kết xây dựng Thị trường AI Agent mở, thúc đẩy việc tạo ra, phát hiện và ứng dụng AI Agent, cung cấp dịch vụ sinh thái AI Agent cho các nhà phát triển và người dùng.

Lần này, hai bên đạt được hợp tác chiến lược, kết hợp kinh nghiệm thực tiễn của SlowMist trong lĩnh vực an ninh phòng thủ, phát hiện rủi ro và nghiên cứu mối đe dọa với năng lực ứng dụng của AgentOn trong việc xây dựng hệ sinh thái AI Agent, cùng nhau khám phá cơ sở hạ tầng an ninh phù hợp với sự phát triển của AI Agent.

Nội dung hợp tác

Khi các ứng dụng AI Agent không ngừng mở rộng, bề mặt tấn công của chúng đã dần mở rộng từ rủi ro của mô hình đơn lẻ sang các lớp hạ tầng, lớp giao thức/công cụ, lớp hành vi và lớp mô hình. Do có mối quan hệ tương tác giữa các lớp khác nhau, mối đe dọa có thể lan truyền và khuếch đại giữa các lớp.

Do đó, việc phát hiện an toàn cho AI Agent cần bao phủ toàn bộ vòng đời từ giai đoạn phát triển, triển khai đến vận hành, chứ không chỉ giới hạn ở một khâu duy nhất.

Trong hợp tác lần này, hai bên sẽ cùng nhau khám phá việc xây dựng năng lực an toàn trong vòng đời của AI Agent, bao gồm các khâu then chốt như phát hiện trước khi triển khai Agent, quản trị rủi ro trong quá trình vận hành và giám sát an toàn liên tục.

Màn Vụ sẽ kết hợp kinh nghiệm của mình trong lĩnh vực bảo mật Web3, tình báo đe dọa và phát hiện rủi ro để phân tích sâu các bề mặt tấn công chính của AI Agent, đồng thời xây dựng năng lực nhận diện rủi ro dành riêng cho bối cảnh AI Agent dựa trên OWASP Top 10 for Agentic Applications, với trọng tâm vào các rủi ro bảo mật then chốt như: chiếm đoạt mục tiêu của Agent, lạm dụng và khai thác công cụ, lạm dụng danh tính và quyền hạn, lỗ hổng chuỗi cung ứng Agent, thực thi mã không mong muốn, đầu độc bộ nhớ và ngữ cảnh, giao tiếp không an toàn giữa các Agent, thất bại lan truyền, khai thác niềm tin Human-Agent và Agent độc hại.

Đồng thời, Manwu sẽ cung cấp khả năng phát hiện bảo mật cho AI Agent dựa trên sáu khía cạnh: bảo mật chứng chỉ và khóa, phòng chống Prompt Injection, lệnh nguy hiểm và thực thi mã, bảo vệ chống rò rỉ dữ liệu, bảo mật quyền hạn và chuỗi cung ứng, cũng như kiểm toán và khả năng quan sát, giúp các nhà phát triển trong hệ sinh thái AgentOn nhận diện các rủi ro bảo mật tiềm ẩn và thúc đẩy tích hợp năng lực bảo mật vào toàn bộ quá trình tạo dựng, phát hành và vận hành Agent.

Khi hệ sinh thái AI Agent không ngừng phát triển, việc xây dựng cơ chế đánh giá và chứng nhận an toàn minh bạch, đáng tin cậy sẽ trở thành nền tảng quan trọng thúc đẩy sự phát triển lành mạnh của ngành.

Trong hợp tác này, hai bên sẽ cùng nhau khám phá việc xây dựng hệ thống xác thực an toàn cho AI Agent, dựa trên các kịch bản ứng dụng, năng lực an toàn và đặc điểm rủi ro của các loại Agent khác nhau, từng bước hoàn thiện các tiêu chuẩn đánh giá và cơ chế xác thực tương ứng.

Thông qua hệ thống xác thực bảo mật, giúp các nhà phát triển thể hiện khả năng bảo mật của Agent, đồng thời giúp người dùng dễ dàng nhận diện các Agent đáng tin cậy có khả năng đảm bảo an toàn. Tiêu chuẩn xác thực sẽ được cải tiến liên tục dựa trên các loại Agent khác nhau và nhu cầu ứng dụng thực tế, thay vì thiết lập một tiêu chuẩn thống nhất một lần duy nhất.

Ngoài việc xây dựng năng lực kỹ thuật, hai bên còn sẽ hợp tác trong việc thúc đẩy hệ sinh thái bảo mật AI Agent, trao đổi ngành và xây dựng hệ sinh thái nhà phát triển, bao gồm cùng xuất bản Best Practice về Bảo mật AI Agent, tổ chức các hoạt động chia sẻ và trao đổi kỹ thuật, tham gia các hội nghị ngành và sự kiện hệ sinh thái nhà phát triển.

Thông qua chia sẻ thực hành an toàn, trao đổi ngành và hợp tác hệ sinh thái, hai bên sẽ cùng thúc đẩy sự phát triển của các khái niệm an toàn cho AI Agent và thúc đẩy việc ứng dụng sâu rộng hơn các năng lực an toàn trong hệ sinh thái AI Agent.

Về AgentOn

AgentOn là nền tảng tự động kiếm tiền do ME Group ươm mầm, chuyên xây dựng mạng lưới hợp tác nhiệm vụ với sự tham gia của AI Agent và con người, giúp các Agent có thể tự chủ làm việc, thực hiện nhiệm vụ và nhận phần thưởng thật trên chuỗi.

Về SlowMist

Màn Vụ Khoa Học là một công ty tình báo đe dọa chuyên về an ninh sinh thái blockchain, được thành lập vào tháng 1 năm 2018 bởi một đội ngũ có hơn mười năm kinh nghiệm thực chiến trong lĩnh vực an ninh mạng. Các thành viên trong đội ngũ từng phát triển các dự án kỹ thuật an ninh có ảnh hưởng toàn cầu. Màn Vụ Khoa Học hiện đã trở thành một trong những công ty hàng đầu về an ninh blockchain trên toàn cầu, chủ yếu cung cấp các giải pháp an ninh “được điều khiển bởi AI, tích hợp từ phát hiện đe dọa đến phòng thủ đe dọa, phù hợp với từng bối cảnh cụ thể”, phục vụ hàng trăm dự án hàng đầu và nổi tiếng trên toàn thế giới, với hơn một nghìn khách hàng thương mại trải dài tại hơn mười quốc gia và khu vực chính.