Claude Opus 5 يقاوم هجمات حقن الأوامر في سيناريوهات المتصفح

iconKuCoinFlash
مشاركة
AI summary iconملخص
أبلغت Anthropic أن نموذج Claude Opus 5 يظهر مقاومة قوية لهجمات حقن الأوامر في سيناريوهات المتصفح، دون أي خرق أمني في 129 حالة اختبار. حصل النموذج على درجة 2.0% في معيار Gray Swan، وهي أفضل من Opus 4.8 (5.5%) وMythos 5 (2.6%) وFable 5 (2.8%). لا تزال حقن الأوامر تهديدًا رئيسيًا للوكلاء الذكاء الاصطناعي. لم يُلاحظ معدل هجوم صفر إلا في Claude Cowork مع تفعيل الوضع التلقائي. من غير المرجح أن تؤثر أخبار أسعار الفائدة والتغيرات السوقية على هذا التحديث المركّز على الأمان.
ME AI رسالة، وفقًا لمراقبة Beating، كشفت Anthropic في بطاقة نظام Claude Opus 5 أن النموذج يظهر مقاومة شبه كاملة لهجمات حقن الإرشادات في سيناريوهات وكيل المتصفح، ولم يُختَرق أي من 129 سيناريو اختبار. هذا الإنجاز ذو أهمية كبيرة، حيث اعترفت OpenAI علنًا في ديسمبر الماضي أن حقن الإرشادات قد لا يمكن حلها تمامًا أبدًا. في اختبارات Beating العامة لحقن الإرشادات من شركة الأمان Gray Swan، بلغت نسبة نجاح Opus 5 بعد 15 هجومًا فقط 2.0٪، وهي تفوق بشكل كبير نسخة Opus 4.8 السابقة التي بلغت 5.5٪، كما تتفوق على Mythos 5 بنسبة 2.6٪ وFable 5 بنسبة 2.8٪. يُعتبر حقن الإرشادات أخطر ثغرة أمنية تواجهها وكلاء الذكاء الاصطناعي — حيث يحاول المهاجمون تجاوز تعليمات النموذج وتنفيذ عمليات ضارة من خلال إدخال محتوى مُشوَّه، مثل نصوص مخفية مُضمنة في صفحات الويب. لم تُحقق معدل هجمات صفرية إلا في منتجات مثل Claude Cowork عند تفعيل وضع Auto Mode. يمثل هذا الإنجاز انتقالًا في أمان وكلاء الذكاء الاصطناعي من مرحلة "الإصلاح المستمر" إلى مرحلة "الدفاع الهيكلي". انقر على الرابط الأصلي أدناه للانضمام إلى قناة Beating · Feishu AI News، والتي تراقب بشكل مستمر على مدار الساعة 7×24 أحدث أخبار ومواضيع الذكاء الاصطناعي العالمية. (المصدر: BlockBeats)
المصدر:عرض النسخة الأصلية
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة قد حصلت عليها من أطراف ثالثة ولا تعكس بالضرورة وجهات نظر أو آراء KuCoin. يُقدّم هذا المحتوى لأغراض إعلامية عامة فقط ، دون أي تمثيل أو ضمان من أي نوع ، ولا يجوز تفسيره على أنه مشورة مالية أو استثمارية. لن تكون KuCoin مسؤولة عن أي أخطاء أو سهو ، أو عن أي نتائج ناتجة عن استخدام هذه المعلومات. يمكن أن تكون الاستثمارات في الأصول الرقمية محفوفة بالمخاطر. يرجى تقييم مخاطر المنتج بعناية وتحملك للمخاطر بناء على ظروفك المالية الخاصة. لمزيد من المعلومات، يرجى الرجوع إلى شروط الاستخدام واخلاء المسؤولية.