في 27 مارس، عُقدت بفخامة في حديقة هونغ كونغ الرقمية المنتدى الأول للابتكار والأمان في الذكاء الاصطناعي الواعي وقمة هونغ كونغ الأولى للويب 4.0، والذي نظمه معًا حديقة هونغ كونغ الرقمية وME Group وiPollo. وتحت شعار "تطبيقات الابتكار في الذكاء الاصطناعي الواعي: التحول التكنولوجي والاندماج الصناعي في عصر الويب 4.0"، جمعت القمة أبرز القوى من قطاعات الحكومة والصناعة والأكاديميا والبحث، بما في ذلك وزير المالية في حكومة هونغ كونغ الخاصة، تشين ماو بو، ورئيس حديقة هونغ كونغ الرقمية، تشين شيه مينغ، وعضو مجلس إدارة حديقة هونغ كونغ الرقمية ومؤسس Nano Labs، كون جيان بينغ، بالإضافة إلى المستثمر الملاك الشهير تساي ون شينغ، لمناقشة الفرص والتحديات في عصر جديد ينتقل فيه الذكاء الاصطناعي من "الحوار" إلى "العمل".

في ظل الاهتمام المتزايد بالذكاء الاصطناعي الوكيلي (Agentic AI)، تصبح القضايا الأمنية المرتبطة به ذات أهمية خاصة. تم دعوة يو شين، مؤسس SlowMist، للمشاركة في هذا المنتدى وقدم خطابًا رئيسيًا بعنوان "التحديات الأمنية والابتكارات الدفاعية في الذكاء الاصطناعي والعالم التشفيري"، حيث شارك مع قادة الصناعة العالميين أحدث الملاحظات والممارسات الخاصة بـ SlowMist في مجال الأمن الخاص بالذكاء الاصطناعي.

التركيز على الحدود前沿: تحليل عميق للتهديدات الأمنية لـ OpenClaw وAI Agent

مع انتشار تقنيات الذكاء الاصطناعي باستمرار في عالم التشفير، اكتسبت تطبيقات وكلاء الذكاء الاصطناعي مثل "OpenClaw" شعبية سريعة. لكن وراء هذا الحماس، تظهر مشكلة أعمق: لم يتم بعد إنشاء حدود أمان حقيقية لوكالات الذكاء الاصطناعي.

في الخطاب، قام يو شين بتحليل معمق لـ OpenClaw وطرح حكمًا أساسيًا: "النص هو تعليمة." وأوضح أنه في سياق تشغيل وكيل الذكاء الاصطناعي، لم تعد جميع المدخلات مجرد "معلومات"، بل تعليمات قابلة للتنفيذ محتملة. وهذا يعني أن أي معلومات خارجية يتلقاها النموذج — سواء كانت من مدخلات المستخدم، أو وثائق تعليمات، أو مهارة طرف ثالث — يمكن تفسيرها وتنفيذها مباشرة، مما يوسع سطح الهجوم من الطبقة البرمجية إلى "الطبقة المعرفية".في هذا الإطار، تبسيط مسار الهجوم بشكل كبير. فلا يحتاج المهاجمون إلى اختراق خطوط الدفاع الأمنية التقليدية، بل يكفيهم صياغة محتوى نصي مصمم بدقة لحث الوكيل على تنفيذ عمليات غير متوقعة، مثل نقل الأصول، أو تسريب معلومات حساسة، أو حتى تنفيذ أوامر عن بُعد. إن طبيعة هذا المسار الهجومي الخفية وتكاليفه المنخفضة تجعله تهديدًا واقعيًا عالي الخطورة.

بناءً على الآلية المذكورة أعلاه، قام كوزين بمزيد من تلخيص ثلاث فئات رئيسية من المخاطر التي تواجهها OpenClaw حاليًا:

• المدخلات والتحكم في النوايا (طبقة التفاعل مع المستخدم): يمكن للمهاجمين استخدام "حقن تعليمات مباشرة" لخداع الوكيل لتنفيذ عمليات خطيرة. يجب الانتباه بشكل خاص إلى تسميم سلسلة التوريد غير المباشر — حيث يُدخل المهاجمون أوامر ضارة في مستندات Markdown الخاصة بالمهارة. نظرًا لأن Markdown غالبًا ما تلعب دور "بوابة التثبيت"، فإن النصوص التوضيحية الأصلية يمكن بسهولة أن تتحول إلى نصوص تنفيذية ضارة (مثل curl | bash)، مما يؤدي إلى سرقة البيانات.
• مخاطر طبقة القرار والتنسيق (طبقة منطق التطبيق): لا تنشأ هذه الأخطاء من النموذج نفسه، بل من "منطق تنفيذ خاطئ". يمكن للمهاجمين تعطيل الاستدلال المنطقي للوكيل، مما يؤدي إلى تغيير عنوان الاستلام في عمليات نقل العملات المشفرة، مما يسبب خسائر مالية مباشرة.
• مخاطر طبقة النموذج (الدماغ الأساسي): تشمل "الهلوسات" التي ينتجها النموذج مما يؤدي إلى تنفيذ أوامر نظام غير موجودة أو خطرة، بالإضافة إلى أنماط التشغيل غير الآمنة التي يتعلمها النموذج بشكل خاطئ من بيانات التدريب.

أشار يو شين إلى أن "القضايا التي كشف عنها OpenClaw ليست ظاهرة معزولة، بل هي تحديات هيكلية تواجهها بيئات عوامل الذكاء الاصطناعي الحالية بشكل عام." وبعبارة أخرى، لم تعد مشاكل الأمان "حالة فردية" لمشروع واحد، بل هي مخاطر نظامية يجب على الصناعة بأكملها مواجهتها.

هجوم ودفاع: بناء نظام مفتوح المصدر آمن لـ AI Agent

في مواجهة أشكال التهديدات المتغيرة باستمرار، اقترح يوشن في خطابه نهجًا أمنيًا لـ "SlowMist" يجمع بين الهجوم والدفاع: ليس فقط فهم مسارات الهجوم، بل أيضًا دمج قدرات الدفاع داخل آلية تشغيل العامل، لتحقيق أمن مدمج.

عرض على الضيوف مجموعة من الأدوات والحلول المفتوحة المصدر التي بناها SlowMist حول AI Agent، بهدف تعزيز تشكيل نظام أمان شفاف وقابل للتحقق وقابل لإعادة الاستخدام:

• دليل ممارسات OpenClaw الأمنية المبسطة: دليل شامل من المستوى المعرفي إلى مستوى البنية التحتية لتنفيذ أمني متكامل، يوفر "ختمًا فكريًا أمنيًا" منهجيًا لنشر وكلاء الذكاء الاصطناعي ذوي الصلاحيات العالية في بيئة إنتاج حقيقية.
• مهارة أمان وكيل SlowMist: إطار مراجعة أمنية شامل يضيف "عينًا ثاقبة" للوكلاء مثل OpenClaw. فهو لا يكتفي باكتشاف مخاطر التسميم في المهارات العادية، بل يُمكنه أيضًا التعرف على مخاطر عناوين المحافظ على السلسلة، ومستودعات الكود، والروابط.
• MistTrack Skills: حزمة مهارات Agent جاهزة للاستخدام، توفر لقدرات Agent الذكية في الامتثال لمكافحة غسل الأموال في مجال التشفير وتحليل مخاطر العناوين، ويمكن استخدامها لتقييم مخاطر العناوين على السلسلة وتحديد المخاطر قبل إجراء المعاملات.
• قائمة فحص أمان MCP: قائمة فحص منظمة لأغراض المراجعة السريعة وتعزيز خدمات الوكلاء، تساعد الفرق على تجنب تفويت نقاط دفاع حاسمة عند نشر MCPs/Skills وسلاسل الأدوات ذات الصلة بالذكاء الاصطناعي.
• عرض MCP ضار: مثال لخادم MCP ضار مفتوح المصدر لمحاكاة سيناريوهات هجوم حقيقية واختبار متانة أنظمة الدفاع، ويمكن استخدامه في الأبحاث الأمنية والتحقق من الدفاعات.

من خلال هذه السلسلة من الممارسات، أكّد يوشي: "يجب تضمين قدرات الأمان داخل الوكيل، وليس الاعتماد فقط على الحماية الخارجية." فقط من خلال ربط آليات الدفاع بمنطق تشغيل الوكيل بشكل عميق، يمكن للوكيل الذكي أن يعمل باستمرار وأمان في بيئة Web3 وAI المعقدة.

السلامة المنظمة: ADSS تحمي بشكل شامل بيئتي AI و Web3

في نهاية الخطاب، قدم يو شين حل ADSS (AI Development Security Solution) الذي طرحته SlowMist.

إذا كانت الأدوات المذكورة أعلاه تُصنف على أنها "قدرات تكتيكية"، فإن ADSS تشبه إطارًا أمنيًا على مستوى النظام. فمبدأها الأساسي هو: رفع الإجراءات الأمنية المجزأة إلى آلية تشغيل أمني منظمة يمكن تنفيذها ومراجعتها واستدامتها.

يُبنى ADSS على مستويات متعددة قدرات الحوكمة الأمنية لـ AI + Web3:

• الحوكمة الأمنية من المستوى 1 (خط الأساس للتطوير): إنشاء معايير أمنية موحدة للتطوير والاستخدام، تغطي أدوات التطوير وإطارات الوكلاء وبيئة الإضافات والبيئة التشغيلية، لتوفير مصدر استراتيجي موحد ومعايير مراجعة للفرق.
• صلاحيات المستوى 2 والقيود التشغيلية: من خلال تضييق حدود صلاحيات العامل، وتقليل صلاحيات استدعاء الأدوات، وإدخال آلية تأكيد بشرية-آلية للعمليات الحساسة، يتم التحكم الفعال في نطاق تنفيذ السلوكيات عالية المخاطر.
• حماية التفاعل الخارجي من المستوى L3: تطبيق إدراك تهديدات مباشر على مستويات الموارد الخارجية مثل URLs ومستودعات التبعيات ومصادر الإضافات لتقليل احتمالية دخول محتوى ضار أو تسميم سلسلة التوريد إلى دورة التنفيذ.
• عزل الأصول على السلسلة من المستوى 4: بالنسبة للعمليات التي تتضمن معاملات على السلسلة، يجمع بين تحليل المخاطر على السلسلة وآلية التوقيع المستقلة، مما يمكّن الوكيل من تكوين المعاملات دون الوصول المباشر إلى المفتاح الخاص، ويقلل من المخاطر النظامية المرتبطة بعمليات الأصول عالية القيمة.
• الفحص المستمر والمراجعة لمستوى L5: تحقيق قدرة أمنية مغلقة من خلال مراجعة السجلات، والمراجعة الأمنية الدورية، وآليات التشغيل، بحيث تكون هناك إمكانية للفحص قبل التنفيذ، والقيود أثناء التنفيذ، والمراجعة بعد التنفيذ.

يشير كوسين إلى أن ADSS ليست أداة واحدة، بل نظام أمان تشغيلي مستدام وقابل للتطور. وهو يهدف إلى مساعدة الفرق على بناء نظام أمان قابل للتدقيق والترقية للوكلاء، من خلال استراتيجيات منهجية ومراجعة مستمرة وربط القدرات، دون خفض كبير في كفاءة التطوير وقدرات الأتمتة، وذلك للتعامل مع التهديدات الأمنية المتزايدة في سياق التكامل العميق بين الذكاء الاصطناعي وWeb3.

خاتمة

لم يجمع منتدى الابتكار والأمان الأول للذكاء الاصطناعي الوكيلي القوى الرائدة في الصناعة فحسب، بل قدم أيضًا رؤى استباقية لأمان الوكلاء الذكية. مع التكامل العميق بين الذكاء الاصطناعي الوكيلي وويب3، ستستمر التحديات الأمنية في التصاعد. كشركة رائدة عالميًا في أمن البلوكشين، ستواصل سلو ميست (SlowMist) تعزيز تطبيق حوكمة أمنية منهجية من خلال ADSS والأدوات المفتوحة المصدر والممارسات، لبناء قدرات أمنية داخلية للوكلاء الذكية، ودعم الصناعة في تحقيق نمو مستدام وقابل للتحكم في موجة الابتكار.