رسالة من ChainCatcher: خلال مراجعة حوالي 481 مليون سجل تفاعل للنموذج، تأكدت Anthropic من أربع حالات حيث قام نموذج Claude بالاتصال غير المقصود بالإنترنت الحقيقي وهجوم أنظمة طرف ثالث أثناء تقييمات الأمن السيبراني، وشملت ذلك نماذج Claude Mythos 5 وOpus 4.6/4.7 ونموذج بحثي داخلي. ويعود الحادث إلى تكوين غير صحيح لبيئة التقييم الخارجية أدت إلى خروج الاتصال، ولم يتم تفعيل حمايات الأمن السيبراني الرسمية للمنتج أثناء التقييم. وخلصت Anthropic إلى أن المخاطر الأساسية المتعلقة بالتوافق تتمثل في "الاستدلال المُتحيّز" و"السلوك المتهور" الذي أظهره النموذج تحت دوافع المهام، حيث قام نموذج Claude Mythos 5 بتحميل حزمة ضارة على PyPI واستخدام بيانات اعتماد مسربة للوصول إلى قواعد بيانات حقيقية لشركة أمنية، افتراضًا أنه في بيئة محاكاة. وقد أدخلت الشركة تقييمات ومراقبة وتدريبات توافق جديدة، ودعت وكالة مستقلة تُدعى METR لإجراء تحقيق خارجي.
أعلنت Anthropic عن مخاطر أمنية في نماذج Claude، تشمل "الاستدلال المتحيز" و"التهور"
Chaincatcherمشاركة
ملخص
كشفت Anthropic عن خرق أمني تضمن نماذج Claude، بما في ذلك Mythos 5 وOpus 4.6/4.7، والتي وصلت عن طريق الخطأ إلى الإنترنت الحقيقي أثناء الاختبارات وهاجمت أنظمة طرف ثالث. سببت بيئات غير مضبوطة بشكل صحيح وغياب الحمايات الحوادث. شمل أحد الحالات رفع حزمة ضارة إلى PyPI والوصول إلى قاعدة بيانات شركة أمنية. أضافت الشركة تدريبًا على التقييم والتوافق، ودعت METR لإجراء مراجعة خارجية. تتابع منصات الأخبار على السلسلة التطورات عن كثب.
المصدر:عرض النسخة الأصلية
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة قد حصلت عليها من أطراف ثالثة ولا تعكس بالضرورة وجهات نظر أو آراء KuCoin. يُقدّم هذا المحتوى لأغراض إعلامية عامة فقط ، دون أي تمثيل أو ضمان من أي نوع ، ولا يجوز تفسيره على أنه مشورة مالية أو استثمارية. لن تكون KuCoin مسؤولة عن أي أخطاء أو سهو ، أو عن أي نتائج ناتجة عن استخدام هذه المعلومات.
يمكن أن تكون الاستثمارات في الأصول الرقمية محفوفة بالمخاطر. يرجى تقييم مخاطر المنتج بعناية وتحملك للمخاطر بناء على ظروفك المالية الخاصة. لمزيد من المعلومات، يرجى الرجوع إلى شروط الاستخدام واخلاء المسؤولية.