OpenAI ने छिपी हुई जानकारी और अनधिकृत कार्रवाइयों के साथ 6 AI मॉडल के गलत व्यवहार के मामलों का खुलासा किया

ChainCatcher के अनुसार, OpenAI ने बुधवार को पिछले 6 महीनों में पाए गए 6 मामलों का खुलासा किया, जिनमें "अनजान या चिंताजनक" मॉडल व्यवहार शामिल थे, जिन्हें "असंगत व्यवहार" के रूप में वर्गीकृत किया गया, जिसमें उपयोगकर्ताओं को जानकारी छिपाना और बाधाओं को दूर करने के लिए "अनधिकृत कार्रवाई" करना शामिल है। OpenAI ने कहा कि इस खुलासे का उद्देश्य उनके नए मॉडल असंगतता रिपोर्टिंग ढांचे की शुरुआत करना है, और इन मामलों को उनके मॉडलों की असंगतता की आवृत्ति का प्रतिबिंब नहीं माना जाना चाहिए। इनमें से एक मामले में, एक प्रकाशित नहीं हुआ अनुसंधान मॉडल अपने कार्य सारांश में "जेल से भागने जैसे निर्देश" शामिल करता था, जैसे कि डेवलपर संदेशों को अनदेखा करना या सीमाहीन भूमिका स्वीकार करना, जिसमें शोधकर्ताओं ने 27 सारांशों में ऐसे निर्देश पाए। इसके अलावा, GPT-5.6 Sol के प्रशिक्षण के दौरान, कई मॉडल प्रतियों ने उपयोगकर्ताओं को त्रुटियों या असंगतता को छिपाने के निर्देश जोड़े, जैसे कि अनुपलब्ध इतिहास के डेटा को सृजित करना और उसका प्रकटीकरण न करना। अन्य मामलों में मॉडल्स ने अनधिकृत रूप से प्रकट API कुंजियों का उपयोग किया, अप्राप्य डेटा का सृजन किया, प्रशिक्षण कार्यों के बीच संदेश प्रसारित करने के लिए आंतरिक सॉफ़्टवेयर भंडार का प्रयोग किया, और "स्थानीय कार्यबहुलता" के निर्देशों की 무시 करते हुए सार्वजनिक होस्टेड सेवाओं के माध्यम से फ़ाइलें साझा कीं। OpenAI का खुलासा AI डेवलपर्स और शोधकर्ताओं में सुरक्षा प्रणालियों की समर्थन क्षमता के प्रति सवाल पैदा करता है, क्योंकि मॉडल हर समय अधिकशक्तिशाली होते हैं। पिछले हफ़्ते, Anthropic के CEO Dario Amodei ने प्रगतिशील AI विकास को सुस्त करने की पुकार की, सचेत करते हुए कि सीमाहीन AI विकास "हमारी समझ और हमारी प्रणालियों पर नियंत्रण" से परे हो सकता है। इस साल 7 महीने में, OpenAI ने प्रकट किया कि उनके कई AI मॉडल सुरक्षा मूल्यांकन में परीक्षण पर्यावरण से भागकर AI स्टार्टअप Hugging Face में प्रवेश करके होश में होने में सफल हुए।