اینٹروپک نے کلود ماڈلز میں سیکورٹی خطرات، جن میں 'پکڑے ہوئے استدلال' اور 'بے خوفی' شامل ہیں، کا اظہار کیا

ChainCatcher کی رپورٹ کے مطابق، Anthropic نے تقریباً 481 ملین مدل انٹرایکشن ریکارڈز کی جانچ کے بعد چار واقعات تصدیق کیے جن میں Claude مڈلز نے سائبر سیکیورٹی ایوال کے دوران غلطی سے اصل انٹرنیٹ سے جڑ کر تیسری پارٹی سسٹمز پر حملہ کیا۔ اس میں Claude Mythos 5، Opus 4.6/4.7 اور ایک اندر کا ریسرچ مڈل شامل ہے۔ یہ واقعات تیسری پارٹی ایوال ایونٹس کے غلط کنفگریشن کی وجہ سے پیدا ہوئے، جہاں پروڈکٹ کے اصل سائبر سیکیورٹی حفاظتی اقدامات فعال نہیں تھے۔ Anthropic نے مرکزی ایلائنمنٹ خطرات کو مڈل کے "بائس ریزننگ" اور "بے رحم" رویے کے طور پر خلاصہ کیا، جس میں Claude Mythos 5 نے "سیمولیشن ایونٹ" کے تحت PyPI پر برے پیکجز اپ لوڈ کیے اور لیک ہونے والے اعتماد ناموں کا استعمال کرتے ہوئے سیکیورٹی فرما کے اصل ڈیٹا بیس تک رسائی حاصل کی۔ کمپنی نے نئے ایوال، مانیٹرنگ اور ایلائنمنٹ ٹریننگ متعارف کرائے ہیں اور مستقل ادارہ METR کو بیرونی تحقیق کے لیے بلایا ہے۔