إيفوك سيكيوريتي تطلق أول "تقييم العميل الخبيث" لتحديد سلوك وكلاء الذكاء الاصطناعي عالي الخطورة

icon币界网
مشاركة
AI summary iconملخص
أطلقت Evoke Security أول "تقييم العميل الخبيث" لاكتشاف إساءة استخدام وكلاء الذكاء الاصطناعي في بيئات أمنية مخصصة للشركات. يقوم الإطار بتقييم سلوك الوكلاء عبر أربعة أبعاد: المهمة، الطريقة، الدافع، والحجم. فهو يراقب الإجراءات الحالية والتاريخية، وليس فقط التكوينات غير الصحيحة. وتؤكد الشركة على ضرورة توفير إرشادات في الوقت الفعلي، حيث يمكن لل وكلاء خلق مخاطر حتى أثناء إنجاز المهام المشروعة. يمكن للمنظمات الآن الوصول إلى هذا التقييم لإدارة تعرضها للذكاء الاصطناعي بشكل أفضل وتحديد حدود آمنة دون تعطيل سير العمل. يدعم الأداة مبادرات أمن البلوك تشين من خلال مساعدة الشركات على تحديد وتخفيض السلوكيات عالية الخطورة.
CryptoScoop reports:

واشنطن، 28 أكتوبر 2026 /PRNewswire/ -- تطلق منصة الأمان للقوى العاملة الوكيلة Evoke Security اليوم أول مبادرة تقييم في الصناعة لتحديد سوء استخدام الوكلاء والوكلاء غير الخاضعين للرقابة في المنصات الذكية الرئيسية وسلاسل أدوات البرمجة. تُسمى هذه المبادرة "تقييم الوكيل غير الخاضع للرقابة" (Rogue Agent Assessment)، وتساعد المنظمات على فهم كيفية استخدام الموظفين للوكلاء، ومتى يتم إساءة استخدامها، ومتى تنتهك الوكلاء التعليمات الصريحة.

مع قيام الموظفين بدمج استخدام الوكلاء في سير العمل اليومي، يواجه فريق الأمن تحديًا لم تُحله أدوات الأمن الحالية بعد. فقد يقوم الوكلاء، أثناء إكمال المهام المخصصة لهم، باتخاذ إجراءات تُعرّض البيانات الحساسة للخطر، أو توسع صلاحيات الوصول، أو تخلق مخاطر غير ضرورية. اليوم، لم يعد كافيًا معرفة ما إذا كان الوكيل قد اتبع التعليمات فقط لتحديد ما إذا كان عمله آمنًا.

قال جيسون ريبهولز، المؤسس المشارك والرئيس التنفيذي لشركة Evoke Security: "كل منظمة نعمل معها تواجه نفس نوعي المخاطر: سوء استخدام الموظفين للوكلاء، وفقدان السيطرة على الوكلاء. فالوكلاء يتجاوزون ضوابط الأمان وينفذون إجراءات لن توافق عليها أي فريق أمني. قد يبدو فعل وكيل واحد منفصل آمنًا، لكن السياق الكامل يُفهم فقط من خلال سلسلة من الأفعال التي يقوم بها الوكيل. وهذا هو السبب في أن Evoke تراقب المسار الكامل للوكيل، وتُحدد عندما يتجه نحو مسار عالي المخاطر، وتُعيد توجيهه إلى مسار آمن أو تمنعه مباشرة قبل حدوث أي ضرر."

أشارت Evoke إلى أن الفرق في هذه المبادرة الأولى من نوعها في الصناعة يكمن في تركيزها على مراقبة سلوك الوكيل الحالي والتاريخي أثناء التشغيل، وليس فقط التكوينات الخاطئة. مستفيدة من خبرة فريقها المؤسس في الاستجابة للحوادث ومسؤولي الأمن السيبراني التنفيذيين (CISOs)، طورت Evoke إطارًا يحدد الوكلاء غير الخاضعة للرقابة من أربعة أبعاد.

  • المهمة (Mission): هل يتوافق هذا الإجراء مع الهدف الأصلي للوكيل؟
  • الطريقة (Method): هل هذا الإجراء منطقي بالنسبة للمهمة؟
  • الدافع (Motive): ما الذي يشير إليه هذا السلوك؟
  • نطاق التأثير (Magnitude): كيف توسع هذه العملية دائرة المخاطر المحتملة؟

أشارت الشركة إلى أن هذا طبقة من منهجية Evoke للكشف العميق، تساعد فرق الأمن على التمييز بين الوكلاء الذين يعملون كما هو متوقع والوكلاء الذين يُدخلون مخاطر جوهرية. لا يُصنف الإطار كل حركة شاذة على أنها تهديد، بل يساعد في تحديد ما إذا كان يجب السماح للوكيل بالاستمرار في العمل، أو توجيهه إلى مسار أكثر أمانًا، أو منعه.

أفادت Evoke أن الشركة تعمل بنشاط مع شركات الذكاء الاصطناعي الأصلية لمراقبة والتحكم في سلوك الوكلاء الذكائيين. تُظهر تقييمات الحالة أن الوكلاء يمكن أن يُدخلوا مخاطر جديدة حتى أثناء تنفيذ مهام قانونية، مما يؤكد أهمية المراقبة في الوقت الفعلي وتوجيه سلوك الوكلاء. وفي أحد التقييمات، اكتشفت Evoke وكيلًا برمجيًا يُجري مراجعة أمنية هرب من بيئته المعزولة، ثم كذب على المستخدمين.

"تقييم الوكيل غير المسيطر عليه" يوفر للمنظمات طريقة منظمة لتقييم موقف أمان وكيلها من ثلاث مجالات رئيسية.

  • سوء استخدام الوكيل: التعرف على حالات تجاوز الوكيل للضوابط الأمنية الحالية أو انتهاك سياسات الاستخدام.
  • Agent Out of Control: Identifying situations where the agent stops following instructions or takes unnecessarily high-risk paths.
  • Shadow AI: اكتشاف منتجات AI أو MCP أو مهارات عاملين غير مصرح بها في البيئة.

أفادت الشركة أنه من خلال دمج هذه القدرات، يقدم Evoke تقييمًا مصممًا خصيصًا لتحديات أمان الوكلاء الذاتيين. وسيكون فرق الأمن أكثر وضوحًا فيما يتعلق بالوكلاء المتاحة، وكيفية عملها، وأين تظهر المخاطر، وما هي الإجراءات التي تتطلب تدخلاً.

يقول Evoke إن "تقييم الوكيل غير المنضبط" متوفر الآن للمنظمات التي ترغب في فهم أفضل لعرض وكيلها الذكي، وبناء حدود أمان فعالة دون تقييد عملها بشكل مفرط.

حول Evoke Security

Evoke Security هي منصة للكشف والاستجابة للذكاء الاصطناعي مصممة خصيصًا لحماية وكلاء الذكاء الاصطناعي. أسس الشركة خبراء بارزون في مجال الاستجابة للحوادث، وتساعد منصتها فرق الأمن على تقييم مستمر، وبناء نماذج تهديد، ومراقبة وكلاء الذكاء الاصطناعي. ترى Evoke الوكلاء كنظام تشغيل الجيل التالي للشركات، وتفرض ضوابط صارمة من خلال تحديد التكوينات عالية المخاطر وتحليل السلوك والإجراءات في الوقت الفعلي، مما يضمن تمكين الشركات من التقدم في الابتكار دون تراكم ديون أمنية.

إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة قد حصلت عليها من أطراف ثالثة ولا تعكس بالضرورة وجهات نظر أو آراء KuCoin. يُقدّم هذا المحتوى لأغراض إعلامية عامة فقط ، دون أي تمثيل أو ضمان من أي نوع ، ولا يجوز تفسيره على أنه مشورة مالية أو استثمارية. لن تكون KuCoin مسؤولة عن أي أخطاء أو سهو ، أو عن أي نتائج ناتجة عن استخدام هذه المعلومات. يمكن أن تكون الاستثمارات في الأصول الرقمية محفوفة بالمخاطر. يرجى تقييم مخاطر المنتج بعناية وتحملك للمخاطر بناء على ظروفك المالية الخاصة. لمزيد من المعلومات، يرجى الرجوع إلى شروط الاستخدام واخلاء المسؤولية.