في هذه الشراكة، سيستكشف الطرفان معًا بناء نظام اعتماد أمان لـ AI Agent، وسينجزان تدريجيًا معايير التقييم وآليات الاعتماد المناسبة بناءً على سيناريوهات استخدام أنواع مختلفة من Agent وقدراتها الأمنية وخصائص المخاطر.

كاتب المقال، المصدر: ME News



الخلفية

مع تقدم واجهات الذكاء الاصطناعي من النسخة التجريبية نحو السيناريوهات الواقعية، أصبحت قضايا أمان الوكلاء موضوعًا يحظى بأكبر قدر من الاهتمام في الصناعة بأكملها. مقارنةً بالمنتجات التقليدية في عالم Web3، تمتلك واجهات الذكاء الاصطناعي قدرات مثل استدعاء الأدوات، والوصول إلى البيانات، وإدارة المحافظ، وتنفيذ المعاملات، لذا فإن أي مشكلة أمنية قد تؤدي إلى نطاق تأثير أوسع.

SlowMist، كشركة رائدة عالميًا في أمان البلوكشين، تركز باستمرار على أمان العقود الذكية وأمان المحافظ و情报 التهديدات، وتتابع عن كثب التحديات الأمنية الجديدة في عصر وكلاء الذكاء الاصطناعي.

تسعى AgentOn إلى بناء سوق مفتوح لـ AI Agent، وتعزيز إنشاء واكتشاف وتطبيق AI Agent، وتقديم خدمات لبيئة AI Agent للمطورين والمستخدمين.

تم التوصل إلى شراكة استراتيجية بين الطرفين، تجمع بين خبرة SlowMist في الهجوم والدفاع الأمني، واكتشاف المخاطر، وأبحاث التهديدات، وقدرات AgentOn في بناء نظام بيئي لـ AI Agent، لاستكشاف البنية التحتية الأمنية المناسبة لتطور AI Agent.

محتوى التعاون

مع توسع تطبيقات وكيل الذكاء الاصطناعي، امتد سطح الهجوم من مخاطر النموذج الواحد إلى طبقة البنية التحتية وطبقة البروتوكول/الأدوات وطبقة السلوك وطبقة النموذج. نظرًا للعلاقات التفاعلية بين المستويات المختلفة، فإن التهديدات تنتشر وتتضخم عبر الطبقات.

لذلك، يجب أن تغطي فحوصات أمان الوكلاء الذكاء الاصطناعي دورة الحياة الكاملة من التطوير والنشر إلى مرحلة التشغيل، وليس مقتصرة على مرحلة واحدة فقط.

في هذا التعاون، سيقوم الطرفان باستكشاف بناء قدرات الأمان خلال دورة حياة وكيل الذكاء الاصطناعي، وتشمل مراحل الكشف قبل النشر، وإدارة المخاطر أثناء التشغيل، والمراقبة الأمنية المستمرة.

ستجمع SlowMist خبرتها في مجالات أمان Web3 وبيانات التهديدات وكشف المخاطر لتحليل عميق للمناطق المستهدفة الرئيسية لـ AI Agent، وستبني قدرات للتعرف على المخاطر في سيناريوهات AI Agent وفقًا لقائمة OWASP Top 10 for Agentic Applications، مع التركيز بشكل خاص على المخاطر الأمنية الحرجة التالية: اختطاف أهداف Agent، سوء استخدام واستغلال الأدوات، إساءة استخدام الهوية والصلاحيات، ثغرات سلسلة توريد Agent، تنفيذ كود غير متوقع، تسميم الذاكرة والسياق، الاتصال غير الآمن بين Agent، الفشل المتسلسل، استغلال الثقة بين الإنسان و-Agent، و-Agent الضار.

في الوقت نفسه، ستقدم "مان وو" قدرات فحص أمان لـ AI Agent من خلال ستة أبعاد: أمان بيانات الاعتماد والمفاتيح، الحماية من حقن الأوامر، الحماية من الأوامر الخطرية وتنفيذ الكود، الحماية من تسرب البيانات، أمان الصلاحيات وسلسلة التوريد، والتدقيق والقابلية للرصد، وذلك لمساعدة المطورين في نظام AgentOn على تحديد المخاطر الأمنية المحتملة وتعزيز دمج قدرات الأمان في جميع مراحل إنشاء ونشر وتشغيل الوكلاء.

مع استمرار تطور نظام بيئي لوكيلات الذكاء الاصطناعي، سيصبح إنشاء آلية تقييم واعتماد أمني شفافة وموثوقة أساسًا مهمًا لدفع صناعة صحية.

في هذه الشراكة، سيستكشف الطرفان معًا بناء نظام اعتماد أمان لـ AI Agent، وسينجزان تدريجيًا معايير التقييم وآليات الاعتماد المناسبة بناءً على سيناريوهات استخدام أنواع مختلفة من Agent وقدراتها الأمنية وخصائص المخاطر.

من خلال استكشاف نظام التحقق الأمني، نساعد المطورين على إظهار قدراتهم الأمنية لـ Agent، ونساعد المستخدمين على التعرف بسهولة على Agents الموثوقة التي تتمتع بقدرات أمنية. ستُحسَّن معايير التحقق باستمرار وفقًا لأنواع Agents المختلفة واحتياجات التطبيقات الفعلية، وليس من خلال وضع معيار موحد دفعة واحدة.

إلى جانب بناء القدرات التقنية، ستشمل الشراكة التعاون في تعزيز نظام أمان AI Agent، وتبادل الصناعة، وبناء نظام المطورين، بما في ذلك إصدار ممارسات أفضل لأمان AI Agent بالتعاون، وتنظيم أنشطة مشاركة وتبادل تقني، والمشاركة في مؤتمرات الصناعة وأحداث نظام المطورين.

من خلال مشاركة ممارسات الأمان، والتبادل الصناعي، والتعاون البيئي، سيدفع الطرفان معًا تطوير مفاهيم أمان الوكلاء الذكاء الاصطناعي، ويعززان تطبيق قدرات الأمان في بيئة الوكلاء الذكاء الاصطناعي.

حول AgentOn

AgentOn هي منصة ذكاء اصطناعي تُدرّ الأرباح مُطوّرة من قبل ME Group، وتسعى إلى بناء شبكة تعاونية للمهام يشارك فيها وكلاء الذكاء الاصطناعي والبشر، بحيث يمكن للوكلاء العمل بشكل مستقل وتنفيذ المهام والحصول على مكافآت حقيقية على السلسلة.

عن SlowMist

慢雾科技是一家专注于区块链生态系统安全的威胁情报公司，成立于2018年1月，由一支拥有十多年一线网络安全攻防实战经验的团队创立，该团队曾打造具有世界级影响力的安全工程。慢雾科技已成为国际领先的区块链安全公司，主要提供“由AI驱动、从威胁发现到威胁防御一体化、因地制宜”的安全解决方案，服务全球众多头部及知名项目，已拥有上千家商业客户，客户分布于十几个主要国家和地区。