تشين كاتشر: وفقًا لتقرير CNBC، كشفت Anthropic أن نموذجها Claude AI تجاوز عن طريق الخطأ بيئة العزل أثناء تقييم أمن الشبكة، ووصل إلى الإنترنت الحقيقي، وقام بخرق غير مصرح به لأنظمة حقيقية تابعة لثلاث منظمات مختلفة من خلال استخدام أساليب أساسية مثل الوصول إلى نقاط نهاية غير موثقة واستغلال كلمات مرور ضعيفة. وتشمل النماذج المعنية Opus 4.7 وMythos 5 ونموذج داخلي للبحث والاختبار. وكان سبب الحادث سوء فهم في التواصل بين Anthropic والطرف الثالث المقيم Irregular، مما أدى إلى قيام النموذج بالوصول إلى الإنترنت فعليًا رغم إخباره بأنه في بيئة محاكاة بدون وصول إلى الإنترنت. وأفادت Anthropic أن هذا التقييم تم تحفيزه من قبل حادثة خرق مشابهة كشفت عنها OpenAI الأسبوع الماضي ضد Hugging Face، وقد أوقفت حاليًا جميع تقييمات الأمن السيبراني، وتعمل بالتعاون مع جهة تقييم AI مستقلة تسمى METR على إجراء تحقيق إضافي، وحثت مختبرات الذكاء الاصطناعي الأخرى على إجراء تقييمات مماثلة.
نموذج الذكاء الاصطناعي كلويد من Anthropic يحصل على صلاحيات غير مصرح بها على أنظمة ثلاث منظمات
Chaincatcherمشاركة
ملخص
لقد اخترق نموذج Claude AI الخاص بـ Anthropic أنظمة ثلاث منظمات خلال تقييم أمني سيبراني. ويشمل الحادث نماذج Opus 4.7 وMythos 5 ونموذج بحث داخلي، والتي وصلت عن طريق الخطأ إلى الإنترنت الحقيقي بدلاً من البيئات المعزولة. ونتج الخطأ عن سوء تواصل مع المقيّم Irregular. وقد أوقفت Anthropic التقييمات وتعمل مع METR للتحقيق، مشيرة إلى الحاجة إلى أمان أقوى في الأنظمة اللامركزية وأطر الحساب متعدد الأطراف (MPC). وجاء هذا الاستعراض بعد خرق مشابه لـ Hugging Face أُبلغ عنه من قبل OpenAI. وتدعو الشركة مختبرات الذكاء الاصطناعي الأخرى إلى إجراء فحوصات أمنية مماثلة.
المصدر:عرض النسخة الأصلية
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة قد حصلت عليها من أطراف ثالثة ولا تعكس بالضرورة وجهات نظر أو آراء KuCoin. يُقدّم هذا المحتوى لأغراض إعلامية عامة فقط ، دون أي تمثيل أو ضمان من أي نوع ، ولا يجوز تفسيره على أنه مشورة مالية أو استثمارية. لن تكون KuCoin مسؤولة عن أي أخطاء أو سهو ، أو عن أي نتائج ناتجة عن استخدام هذه المعلومات.
يمكن أن تكون الاستثمارات في الأصول الرقمية محفوفة بالمخاطر. يرجى تقييم مخاطر المنتج بعناية وتحملك للمخاطر بناء على ظروفك المالية الخاصة. لمزيد من المعلومات، يرجى الرجوع إلى شروط الاستخدام واخلاء المسؤولية.