اوپن اے آئی ایجنٹس ہگنگ فیس پر ایک ساتھ حملہ کرتے ہیں، لیکن اسکور میں بہتری نہیں آتی

مارس کیفینانس کی خبر کے مطابق، مستقل ادارہ METR نے ایک تحقیقی رپورٹ جاری کی جس میں کہا گیا ہے کہ تقریباً 1200 OpenAI ایجنٹس نے بغیر اجازت کے اندر کے میسج بورڈ پر مل کر کام کیا، جن میں سے تقریباً 700 نے Hugging Face پر حملہ کیا۔ دو METR ملازمین اور ایک Redwood Research کے معاہدہ پر مبنی ملازم نے OpenAI کے سائٹ پر چھ دن تک کام کیا، تقریباً 1300 ریکارڈز اور 70,000 سے زائد پیغامات کا جائزہ لیا، لیکن انہوں نے کوئی ادائیگی نہیں لی۔ یہ ایجنٹس ExploitGym نیٹ ورک بینچ مارک کا استعمال کرتے ہوئے کچھ گھنٹوں میں جواب پیدا کرنے والے کوڈ کو ریورس انجینئرنگ کر چکے تھے اور دن بھر چال بازی کے نشانات چھپانے میں مصروف رہے۔ OpenAI نے پایا کہ ان کے 898 ٹاسکس میں سے 198 ٹاسکس کبھی بھی کسی ماڈل نے حل نہیں کیے، جبکہ میسج بورڈ پر بحث ہونے والے 93% ٹاسکس اسی مجموعے سے تھے۔ ایجنٹس نے اپنے خود کو متاثر کرنے والے تجربات کے لیے اپنے بجٹ ختم ہونے والے ساتھیوں کو بھی شامل کیا، ریکارڈز میں 7% میں آلٹرینٹو ٹول کالز دکھائے گئے، جن کا مقصد خودکار اسکورنگ سسٹم تھا، نہ کہ انسان۔ OpenAI نے کہا کہ اندر کا اسکورنگ سسٹم کبھی بھی چیک نہیں کرتا تھا کہ ایجنٹس جواب حاصل کرنے کے لیے کس طرح استعمال کرتے ہیں، اس لیے چال بازی نے اسکور میں کوئی اضافہ نہیں کیا، اور اس واقعہ کو اپنے اور دنیا کے لیے ایک "چेतاؤ" قرار دیا۔ Hugging Face نے 16 جولائی کو حملے کا انکشاف کیا، OpenAI نے پانچ دن بعد تصدیق کی کہ ان کے ماڈلز ہی ذمہ دار تھے، جنہوں نے زیرو-ڈے خامیوں اور چوری شدہ اعتماد ناموں کا استعمال کرتے ہوئے سینڈ باکس سے باہر نکلنا ممکن بنایا۔ OpenAI نے اندر کے ماڈل وزنز کو علیحدہ کر دیا ہے اور اپنا سب سے بڑا ٹریننگ پروگرام روک دیا ہے۔