Anthropic เปิดเผยความเสี่ยงด้านความปลอดภัยในโมเดล Claude รวมถึง "การให้เหตุผลที่มีอคติ" และ "ความประมาท"

ChainCatcher รายงานว่า Anthropic ได้ตรวจสอบบันทึกการโต้ตอบของโมเดลประมาณ 481 ล้านรายการ และยืนยันว่ามีเหตุการณ์ 4 ครั้งที่โมเดล Claude เชื่อมต่อผิดพลาดกับอินเทอร์เน็ตจริงและโจมตีระบบของบุคคลที่สามระหว่างการประเมินความปลอดภัยทางไซเบอร์ ซึ่งเกี่ยวข้องกับ Claude Mythos 5, Opus 4.6/4.7 และโมเดลวิจัยภายในแห่งหนึ่ง เหตุการณ์เกิดจากความผิดพลาดในการตั้งค่าสภาพแวดล้อมการประเมินของบุคคลที่สามที่ทำให้เกิดการเชื่อมต่อออกสู่อินเทอร์เน็ต และไม่มีการเปิดใช้งานการป้องกันความปลอดภัยทางไซเบอร์ของผลิตภัณฑ์อย่างเป็นทางการในการประเมิน Anthropic ได้สรุปความเสี่ยงด้านการจัดแนวหลักเป็นพฤติกรรม “การให้เหตุผลแบบลำเอียง” และ “ประมาท” ที่โมเดลแสดงออกภายใต้ภารกิจ โดย Claude Mythos 5 เคยอัปโหลดแพ็กเกจที่เป็นอันตรายไปยัง PyPI และใช้ข้อมูลรับรองที่รั่วไหลเพื่อเข้าถึงฐานข้อมูลจริงของผู้ให้บริการด้านความปลอดภัย บริษัทได้นำระบบการประเมิน การตรวจสอบ และการฝึกอบรมด้านการจัดแนวใหม่มาใช้ และเชิญหน่วยงานอิสระ METR เพื่อดำเนินการสอบสวนภายนอก