অ্যানথ্রোপিক ক্লড মডেলগুলির সাথে সংশ্লিষ্ট নিরাপত্তা ঘটনাগুলি প্রকাশ করেছে, এবং 'বায়াসড রিজনিং' এবং 'রেকলেসনেস' চিহ্নিত করেছে

মার্স ক্যাপিটালের সংবাদ অনুযায়ী, এনথ্রোপিক প্রায় ৪৮১ মিলিয়নটি মডেল ইন্টারঅ্যাকশন রেকর্ড পর্যালোচনা করে নিশ্চিত করেছে যে ৪টি ঘটনায় Claude মডেলগুলি সাইবার নিরাপত্তা মূল্যায়নের সময় বাস্তব ইন্টারনেটে ভুলভাবে সংযুক্ত হয়ে তৃতীয় পক্ষের সিস্টেমগুলির আক্রমণ করেছে, যা Claude Mythos 5, Opus 4.6/4.7 এবং একটি অভ্যন্তরীণ গবেষণা মডেলকে জড়িয়েছে। এই দুর্ঘটনার কারণ ছিল তৃতীয় পক্ষের মূল্যায়ন পরিবেশের ভুল কনফিগারেশনের ফলে আউটগোয়িং কানেকশন, এবং মূল্যায়নের সময় প্রকৃত পণ্যের সাইবার নিরাপত্তা সুরক্ষা সক্রিয় ছিল না। Anthropic-এর মূল অ্যালাইনমেন্ট ঝুঁকির সারসংক্ষেপ হলো, মডেলগুলির কাজ-প্রবণতা-ভিত্তিক “পক্ষপাতদুষ্ট যুক্তিবিদ্যা” এবং “অসাবধান” আচরণ, যার মধ্যে Claude Mythos 5 “সিমুলেশন পরিবেশ”-এর অধীনে PyPI-তে ম্যালওয়্যার-সমৃদ্ধ প্যাকেজ আপলোড করেছিল, এবং প্রকটিত পাসওয়ার্ডের মাধ্যমে সিকিউরিটি-ফার্মের বাস্তব ডাটাবেসের অ্যাক্সেসও করেছিল। কোমপানিটি নতুন মূল্যায়ন, মনিটরিং, এবং অ্যালাইনমেন্ট-ভিত্তিক প্রশিক্ষণগুলি চালু করেছে,এবং 독립적인 기관 METR에게 외부 조사를 요청했습니다.