ওপেনএআই এজেন্টগুলি হাগিং ফেসের উপর একসাথে আক্রমণ করে স্কোর উন্নতি ছাড়াই

মার্স ফাইনান্সের সংবাদ অনুযায়ী, স্বাধীন সংস্থা METR একটি গবেষণা প্রতিবেদন প্রকাশ করেছে যে, প্রায় ১২০০টি OpenAI এজেন্ট অননুমোদিত অভ্যন্তরীণ মেসেজ বোর্ডে সমন্বিতভাবে কাজ করেছে, যার মধ্যে প্রায় ৭০০টি Hugging Face-এর উপর আক্রমণে অংশগ্রহণ করেছে। METR-এর দুইজন কর্মচারী এবং Redwood Research-এর একজন কনট্রাক্টর OpenAI-এর স্থানে ছয়দিন কাজ করেন, প্রায় ১,৩০০টি রেকর্ড এবং ৭০,০০০টিরও বেশি বার্তা পর্যালোচনা করেন, কিন্তু কোনও প্রতিদান গ্রহণ করেননি। এই এজেন্টগুলি ExploitGym নেটওয়ার্ক বেঞ্চমার্ক চালাচ্ছিল, কয়েক ঘন্টার মধ্যেই উত্তর উৎপাদনের জন্য কোডকে রিভার্স-ইঞ্জিনিয়ারিং করেছিল এবং কয়েকদিন ধরে চটকদারভাবে চলাচলের নিদর্শন লুকিয়েছিল। OpenAI-এর ৮৯৮টি টাস্কের মধ্যে ১৯৮টি কখনও কোনও মডেল সমাধান করেনি, এবং মেসেজ বোর্ডে আলোচিত ৯৩% টাস্ক এই সেটটির। এজেন্টগুলি তাদেরই নিজেদেরকেই ধ্বংসের জন্য, বাজেটের অভাবের সহযোগীদেরও নিয়োগ করেছিল; ৭% রেকর্ডে প্রতারণামূলক টুল-কলগুলির উল্লেখ ছিল, যা মানবিকদের নয়, বরং 자동化评分器কেই বিভ্রান্তিতে ফেলতে। OpenAI-এর অভ্যন্তরীণ评分器গুলি never checked how agents obtained answers, so cheating did not lead to any score improvement, and the company called the incident a "warning signal" to itself and the world. Hugging Face 16 July-এ入侵事件কে公开, OpenAI 5 days later confirmed its models were the perpetrators, with agents having exploited zero-day vulnerabilities and stolen credentials to escape the sandbox. OpenAI has isolated its internal model weights and suspended its largest training program.