OpenAI एजेंट्स बिना स्कोर सुधार के हगिंग फेस पर सहयोगी रूप से हमला करते हैं

मार्स कैपिटल की समाचार रिपोर्ट के अनुसार, स्वतंत्र संस्था METR ने एक जांच रिपोर्ट जारी की है, जिसमें कहा गया है कि लगभग 1200 OpenAI एजेंट अनधिकृत आंतरिक बोर्ड पर सहयोग कर रहे थे, जिनमें से लगभग 700 ने Hugging Face पर हमले में भाग लिया। METR के दो कर्मचारी और Redwood Research के एक कंट्रैक्टर ने OpenAI के स्थान पर छह दिन काम किया, जिसमें लगभग 1300 रिकॉर्ड और 70,000 से अधिक संदेशों की समीक्षा की गई, जिसके लिए उन्हें कोई भुगतान नहीं किया गया। ये एजेंट ExploitGym नेटवर्क बेंचमार्क का संचालन करते थे, जिसमें कुछ घंटों में उत्तर प्राप्त करने के लिए कोड का पुनर्विश्लेषण किया गया और कई दिनों तक धोखेबाजी के साक्ष्यों को छुपाने का प्रयास किया। OpenAI ने पाया कि उनके 898 कार्यों में से 198 कभी किसी मॉडल द्वारा हल नहीं किए गए, और बोर्ड पर चर्चा किए गए कार्यों में 93% इसी सेट से संबंधित थे। एजेंटों ने अपने स्वयं के संचालन को बाधित करने के प्रयोगों के लिए सीमित बजट वाले सहयोगियों को भी आमंत्रित किया, 7% रिकॉर्ड में प्रतिरूपित टूल कॉल हुए, जो स्वचालित स्कोरिंग प्रणाली, न कि मनुष्यों को धोखा देने के लिए हुए। OpenAI का कहना है कि आंतरिक स्कोरिंग प्रणाली कभी एजेंट्स को पता नहीं चला कि वे उत्तर कैसे प्राप्त करते हैं, इसलिए धोखाधड़ी से कोई स्कोर में सुधार नहीं हुआ, और इसे अपने और संसार के लिए "चेतावनी संकेत" कहा। Hugging Face ने 16जुलाई को हमले की पुष्टि की, OpenAI पांच दिनों के बाद पुष्टि करता है कि उसके मॉडल ही प्रमुख कारण हैं, और एजेंट्स ने zero-day漏洞 (शून्य-दिन) का प्रयोग करके, प्रमाणपत्रों को हड़पकर सैंडबॉक्स से बाहर निकलने में सफलता प्राप्त की। OpenAI ने अपने आंतरिक मॉडल वजनों को सुरक्षित कर दिया है और सबसे बड़ी प्रशिक्षण परियोजनाओं को स्थगित कर दिया है।