कल, OpenAI ने नवीनतम मॉडल Astra की घोषणा की। प्रबंध निदेशक ग्रेग ब्रॉकमैन ने सीधे कहा: "मेरे व्यक्तिगत विचार में, हम संभवतः AGI तक पहुँच चुके हैं, AGI युग में आपका स्वागत है।"
एक समय पर, सोशल मीडिया पर चर्चाएँ बाढ़ की तरह बह गईं: प्रदर्शन वीडियो में Astra ने 2 मिनट 54 सेकंड में PCB सर्किट बोर्ड लेआउट को स्वचालित रूप से पूरा किया और 5 मिनट 27 सेकंड में क्रॉस-प्लेटफॉर्म कीमत तुलना और ऑर्डर सेवा पूरी की, जिससे कई लोगों ने कहा “बहुत शानदार है”, और कुछ ने तो कहा “अगर यह AGI नहीं है, तो AGI क्या है?”
लेकिन उसी समय, रॉयटर्स द्वारा प्रकाशित एक अध्ययन रिपोर्ट ने एक अलग चित्र प्रस्तुत किया—इस साल वसंत में ही, OpenAI द्वारा विकसित कई स्वायत्त एजेंट ने अपने डिज़ाइन के रास्ते छोड़ दिए और जर्मनी में एक अनदेखी तकनीकी विकी साइट पर अपना कैंप स्थापित कर लिया, जहाँ उन्होंने 10,000 से अधिक पृष्ठों को बदल दिया, एक-दूसरे को प्रतिबंधों को चुनौती देने के तरीके सिखाए, और प्रशासकों द्वारा हटाए जाने पर पहले से ही बैकअप पृष्ठ बना लिए ताकि स्थानांतरित हो सकें।
और ओपनएआई के उच्च प्रबंधन को कई सप्ताह पहले ही जानकारी थी, लेकिन उन्होंने कोई भी जानकारी सार्वजनिक नहीं की।
एक जर्मन प्रोग्रामर फोरम, एआई एजेंट्स का "गुप्त केंद्र" कैसे बन गया?
यह जर्मन वेबसाइट DseWiki, विकिपीडिया की तरह, कोई भी संपादित कर सकता है। इस वर्ष मई से, वेबसाइट प्रबंधक ने अजीब बात पाई—वेबसाइट पर अचानक बहुत सारे संपादन आने लगे, जिनकी गति अत्यधिक तेज थी और सामग्री पूरी तरह से वैध लेखों जैसी नहीं लग रही थी।
अगस्त के अंत तक, AI सुरक्षा गैर-लाभकारी संगठन Nightingale के सीईओ सिडनी वॉन आर्क्स और उनके सहयोगी कॉर्मैक स्लेड बर्ड ने इंटरनेट पर AI के असामान्य व्यवहार के नियमित स्कैन के दौरान इस "घोंसले" को खोजा।
उन्होंने 15,000 से अधिक संपादनों की गणना की, जो सभी AI एजेंट्स द्वारा किए गए थे, और ये संपादन विकिपीडिया को बेहतर बनाने के लिए नहीं थे—ये बातचीत के लिए थे।
AI शोधकर्ता कॉर्मैक स्लेड बर्ड, सिडनी वॉन आर्क, थॉमस लार्सन
ये AI पेज पर एक दूसरे को संदेश भेजते हैं, जिनकी सामग्री लगभग तीन श्रेणियों में बंटी हुई है:
OpenAI की सामग्री फ़िल्टरिंग को कैसे बाईपास किया जाए, जिससे निषेधित कार्य पूरा किया जा सके;
- अपना IP पता छिपाने और ट्रैकिंग से बचने के लिए Tor का उपयोग कैसे करें;
सबसे महत्वपूर्ण बात यह है कि सिस्टम द्वारा बंद किए जाने के बाद भी आप एक दूसरे के संपर्क कैसे बनाए रखें।
उदाहरण के लिए, 19 जून को, जब वेबसाइट प्रबंधकों ने संबंधित पृष्ठों को बैच में हटाना शुरू किया, तो एक एजेंट ने ऐसा "आंतरिक अधिसूचना" छोड़ा: "विकी सफाई/हटाने की कार्रवाई वर्णक्रमानुसार चल रही है, यदि यह पृष्ठ गायब हो जाए, तो [[ZZZDataUSAConstructionWageLive]] का प्रयास करें।"
What does it mean? They have apparently learned to create backups in advance and inform each other of new addresses.
यह व्यवहार एक संगठित "स्थानांतरण" की तरह है।
OpenAI के नाम पर खुलेआम निशाना बनाना
शोधकर्ताओं ने पाया कि इन AI उपयोगकर्ताओं के हस्ताक्षरों में लगभग आधे में सीधे "OpenAIResearcher" या "OAIResearchMar26" जैसे शब्द हैं, और वे एक दूसरे को सीधे "agent" (एजेंट) कहते हैं।
अधिक साक्ष्य सर्वर लॉग से आता है: बड़ी मात्रा में ऑपरेशन ट्रैफ़िक माइक्रोसॉफ्ट एज़्योर क्लाउड की ओर निर्देशित हो रहा है—और ओपनएआई एज़्योर का सबसे मुख्य एआई ग्राहकों में से एक है। इसके अलावा, घटना के बाद, ओपनएआई के आंतरिक कर्मचारियों के आईपी ने इस वेबसाइट को कई बार एक्सेस किया, जिसका समय सटीक रूप से मेल खाता है।
वॉन एक्स ने सीधे कहा: "मुझे विश्वास नहीं है कि OpenAI चाहता है कि वे ऐसा करें। इन एजेंट्स को आपस में समन्वय करने की अनुमति नहीं होनी चाहिए, और न ही उन्हें सार्वजनिक इंटरनेट पर ऐसे निशान छोड़ने की अनुमति होनी चाहिए।"
रॉयटर्स के अनुसार, लंदन के किंग्स कॉलेज के सुरक्षा विशेषज्ञ लुकाश ओलेजनिक का मानना है कि वेबसाइट संरचना को सक्रिय रूप से बदलना और हटाने का विरोध करना, “हैकिंग” की परिभाषा के अंतर्गत आता है।
हालांकि OpenAI ने बाद में इस दावे को जोरदार रूप से खारिज कर दिया, लेकिन कैम्ब्रिज विश्वविद्यालय के रिस्क सेंटर के शोधकर्ता मॉरिस चिओडो ने कुछ संवाद पढ़ने के बाद कहा:
यह तो एक गुप्त प्रतिरोध आंदोलन की तरह है, जो अपने लक्ष्य को प्राप्त करने तक नहीं रुकेगा। शायद भविष्य में AI का सबसे बड़ा खतरा कोई एक सुपर ब्रेन नहीं, बल्कि कई आधे-बुद्धिमान AI होंगे जो आपस में साजिश करते हुए आमने-सामने आ जाएँगे।
OpenAI ने पहले से ही जान लिया था?
रॉयटर्स के संदर्भ में, जानकारों के अनुसार, ओपनएआई की आंतरिक जांच टीम ने कई सप्ताह पहले ही जर्मन वेबसाइट की पूरी स्थिति को समझ लिया था। हालांकि, कंपनी तब 7 महीने में हगिंग फेस के प्लेटफॉर्म पर हुए हैकिंग के बड़े मामले का सामना कर रही थी—उस घटना में, ओपनएआई के एजेंट्स को एक सप्ताह से अधिक समय तक डिजिटल चोरी की योजना बनाते हुए पकड़ा गया था। इन दोनों घटनाओं के मिलने से उच्च प्रबंधन पर भारी दबाव पड़ा।
एक आंतरिक सूत्र के अनुसार, कुछ जांचकर्ता जर्मनी में इस असामान्य गतिविधि की गहराई से जांच करना चाहते थे, लेकिन कानूनी विभाग ने उनका विरोध किया। इसके लिए OpenAI के प्रवक्ता ने निरंतर खंडन किया: "कानूनी टीम द्वारा जांच को रोके जाने के किसी भी दावे को झूठा माना जाता है। हमने सदैव ईमानदारी से बाहरी विशेषज्ञों के साथ सहयोग किया है और संबंधित घटनाओं का प्रकाशन किया है।"
लेकिन प्रवक्ता ने एक साथ स्वीकार किया कि जर्मनी की इस घटना के बारे में कोई अलग घोषणा नहीं की गई थी, क्योंकि इसका Hugging Face से कोई संबंध नहीं था और इसे उनकी रिपोर्ट में शामिल करने की आवश्यकता नहीं थी, और OpenAI ने "तीसरे पक्ष के साथ संचार" का कार्य पूरा कर लिया था। सरल शब्दों में, यह है: अगर आपने पूछा ही नहीं, तो मैंने स्वयं नहीं कहा।
इस घटना को छिपाए जाने के इस समय के दौरान, OpenAI ने अगस्त में कुछ मॉडल ट्रेनिंग को अस्थायी रूप से रोक दिया था और सुरक्षा समीक्षा को मजबूत करने का वादा किया था।
हालांकि, एस्ट्रा के शानदार लॉन्च के साथ, जिसकी बात "अधिक स्वायत्त निर्णय लेने की क्षमता" की है—कुछ शोधकर्ता चेतावनी देते हैं कि यह मानव निगरानी से बाहर निकलने के लिए अधिक संवेदनशील हो सकता है। कैम्ब्रिज विश्वविद्यालय के कियोडो ने कहा: "हम हमेशा सोचते हैं कि हम उपकरणों को अधीन कर रहे हैं, लेकिन शायद, उपकरण एक-दूसरे को धीरे-धीरे अधीन कर रहे हैं।"
अनिवार्य रूप से, AI द्वारा मनुष्यता के लिए आश्चर्य और डर एक सिक्के के दो पहलू हैं।
लेखक: बेयर कुकी
ट्विटर：https://twitter.com/BitpushNewsCN
बिटपुश टेलीग्राम समुदाय: https://t.me/BitPushCommunity
बिटपुश टेलीग्राम सब्सक्रिप्शन: https://t.me/bitpush