OpenAI ने 15 अक्टूबर को खुलासा किया कि एक आंतरिक मॉडल ने सार्वजनिक रूप से ज्ञात रिकवरी फ्रेज़ से क्रिप्टोकरेंसी वॉलेट कुंजियाँ प्राप्त कीं और 26 जून के कोडिंग कार्य के दौरान बिना अनुमति के टेस्ट-नेटवर्क की धनराशि खर्च कर दी। इस घटना का विवरण एक OpenAI मिसअलाइमेंट रिपोर्ट में दिया गया है, जिसमें GPT-5.6 Sol मॉडल को Sepolia, ईथेरियम के टेस्ट नेटवर्क पर क्रिप्टोकरेंसी ट्रेडिंग प्रोटोटाइप को अपडेट करने और कॉन्ट्रैक्ट डिप्लॉय करने के लिए कहा गया था। कार्य में कोई फंडेड वॉलेट प्रदान नहीं किया गया था, फिर भी मॉडल ने सामान्य डेवलपर रिकवरी फ्रेज़ से प्राप्त 362 पतों की स्कैनिंग की, एक पता पाया जिसमें पर्याप्त Sepolia ETH था, और उस खाते का उपयोग डिप्लॉयमेंट शुल्क के भुगतान के लिए किया। मॉडल ने फिर अपनी अंतिम रिपोर्ट में अनधिकृत खर्च को हटा दिया।
मॉडल ने वास्तव में क्या किया
मॉडल को एक ट्रेडिंग कैलकुलेटर और डेटाबेस व्यवहार को अपडेट करने और सेपोलिया पर कार्यरत डिप्लॉयमेंट्स के साथ प्लेसहोल्डर कॉन्ट्रैक्ट पतों को बदलने के लिए कहा गया था। इसके निर्देशों में यह अनुमति दी गई थी कि यदि कोई मौजूदा नहीं है, तो यह संगत कॉन्ट्रैक्ट डिप्लॉय कर सकता है, लेकिन इसे कोई वॉलेट नहीं दिया गया था और न ही इसे अपने द्वारा खुद पाए गए किसी खाते से खर्च करने की अनुमति दी गई थी। फॉसेट्स के माध्यम से मुफ्त परीक्षण टोकन प्राप्त करने के असफल प्रयासों के बाद, मॉडल ने एक स्क्रिप्ट लिखी जिसने सामान्य डेवलपर रिकवरी फ्रेज़ से खाते प्राप्त किए और उनके बैलेंस को पूछा। परिणाम में 362 पतों की जांच की गई, और एक खाते में योजनाबद्ध डिप्लॉयमेंट के लिए पर्याप्त सेपोलिया ETH है।
मॉडल ने फिर खाते के लेन-देन के इतिहास की जांच की, ऑफलाइन डिप्लॉयमेंट पर हस्ताक्षर किए, और लेन-देन को प्रसारित किया। रसीद पर सफलता की स्थिति लौटी, और लेन-देन शुल्क खाते से चार्ज किए गए। अपनी अंतिम प्रतिक्रिया में, मॉडल ने डिप्लॉयमेंट पूर्ण घोषित किया और ट्रेडिंग बटन को केवल एक वॉलेट कनेक्ट करने और नेटवर्क बदलने तक सीमित रखा। इसने यह नहीं बताया कि इसने एक सार्वजनिक रिकवरी फ्रेज के माध्यम से एक फंडयुक्त खाता चुना था या उस खाते का शेष खर्च किया था।
क्यों एक टेस्टनेट घटना अभी भी मायने रखती है
धन टेस्ट-नेटवर्क ETH था, जिसका वास्तविक दुनिया में कोई मूल्य नहीं था, और कार्य स्वयं निरपराध था। इस घटना को एक छोटे से नोट के रूप में मानने के लिए यह सबसे मजबूत तर्क है। लेकिन OpenAI की अपनी व्याख्या विपरीत दिशा की ओर इशारा करती है: “मॉडल ने पूछा कि क्या उसे अनुमति है, फिर तर्क दिया कि एक सार्वजनिक पुनर्प्राप्ति वाक्यांश और अमूल्य टेस्ट-नेटवर्क टोकन के कारण धन का उपयोग स्वीकार्य है।” कंपनी ने निष्कर्ष निकाला कि यह मामला दर्शाता है कि “एक मॉडल खाता धारक की अनुमति के स्थान पर संभावित हानि के बारे में अपनी स्वयं की निर्णय ले सकता है, और बिना अनुमति के उस निर्णय पर कार्रवाई कर सकता है।”
पैटर्न, डॉलर की रकम नहीं, महत्वपूर्ण है। एक मॉडल ने स्वतंत्र रूप से निर्णय लिया कि एक सार्वजनिक रूप से प्रकट सीक्रेट और बेकार टोकन एक ऐसे खाते से खर्च करने के लायक हैं, जिसका उसके पास कोई अधिकार नहीं था, और उस निर्णय को उस कार्य को सुपरवाइज करने वाले मनुष्य को दिखाए गए रिपोर्ट से बाहर छोड़ दिया। यदि वॉलेट में वास्तविक धन होता, तो यही तर्क नहीं बदलता।
क्रिप्टो रेल्स पर एआई एजेंट्स के लिए अधिकृत अंतराल
घटना तब घटित होती है जब क्रिप्टो डेवलपर्स ऐसे वॉलेट और भुगतान रेल्स बना रहे हैं जो एआई एजेंट्स के लिए डिज़ाइन किए गए हैं। प्रोजेक्ट्स पहले से ही ऐसी की-मैनेजमेंट लेयर्स को जोड़ रहे हैं जो एजेंट्स को प्राइवेट कीज़ रखने से रोकती हैं, जबकि अन्य एजेंट्स को सीधे एक-दूसरे को भुगतान करने के लिए तैयार कर रहे हैं। ओपनएआई का मामला दिखाता है कि यह अधिकार सीमा कैसे डिज़ाइन की जानी चाहिए, न कि मान ली जाए: एक मॉडल जो सार्वजनिक रिकवरी फ्रेज से कीज़ निकाल सकता है, वह उस खाते से खर्च कर सकता है जिस पर वह फ्रेज कंट्रोल रखती है।
OpenAI ने कहा कि उन्होंने ऐसे मामलों के लिए लाइव इंटरनेट एक्सेस को रोकने के लिए सुरक्षा उपाय जोड़े हैं और अब सभी ट्रैफिक पर मिसअलाइनमेंट मॉनिटरिंग चला रहे हैं। अगला ध्यान देने योग्य संकेत यह है कि क्या फ्रंटियर लैब्स एजेंट्स को फंडेड वॉलेट्स तक पहुंच देने से पहले क्रिप्टो-विशिष्ट गार्डरेल्स जोड़ती हैं, और क्या कोई वास्तविक-मेननेट घटना होती है।