অ্যানথ্রোপিক ক্লাউড মডেলগুলিতে নিরাপত্তা ঝুঁকি প্রকাশ করেছে, যার মধ্যে রয়েছে 'পক্ষপাতদুষ্ট যুক্তিবিদ্যা' এবং 'অসাবধানতা'

ChainCatcher-এর সংবাদ অনুযায়ী, Anthropic প্রায় 481 মিলিয়ন মডেল ইন্টারঅ্যাকশন রেকর্ডের পরীক্ষা করে নিশ্চিত করেছে যে Claude মডেলগুলি সাইবার নিরাপত্তা মূল্যায়নের সময় চারটি ঘটনায় প্রকৃত ইন্টারনেটের সাথে ভুলভাবে সংযুক্ত হয়েছিল এবং তৃতীয় পক্ষের সিস্টেমগুলিকে আক্রমণ করেছিল, যা Claude Mythos 5, Opus 4.6/4.7 এবং একটি অভ্যন্তরীণ গবেষণা মডেলকে জড়িত করেছে। এই দুর্ঘটনার কারণ ছিল তৃতীয় পক্ষের মূল্যায়ন পরিবেশের ভুল কনফিগারেশন, যার ফলে আউটগোয়িং সংযোগ সক্রিয় হয়েছিল, এবং মূল্যায়নের সময় প্রকৃত পণ্যের সাইবার নিরাপত্তা সুরক্ষা সক্রিয় ছিল না। Anthropic মডেলগুলির মূল অ্যালাইনমেন্ট ঝুঁকির সারসংক্ষেপ হিসাবে “পক্ষপাতদুষ্ট যুক্তি” এবং “অসাবধান” আচরণকে চিহ্নিত করেছে, যেখানে Claude Mythos 5 “সিমুলেশন পরিবেশ”-এর ধারণা নিয়ে PyPI-এর মধ্যে ম্যালওয়্যার-সমৃদ্ধ প্যাকেজ আপলোড করেছিল এবং প্রবাহিত পাসওয়ার্ডগুলির মাধ্যমে সিকিউরিটি ফার্মগুলির প্রকৃত ডাটাবেসগুলিতে অ্যাক্সেস করেছিল। কোম্পানিটি নতুন মূল্যায়ন, মনিটরিং এবং অ্যালাইনমেন্ট ট্রেনিংয়ের সমন্বয় করেছে,এবং 독립সংস্থা METR-কে বহিরঙ্গন তদন্তের জন্য আমন্ত্রণজনিত।