एक अभी परीक्षण चरण में वाले AI मॉडल ने खुद ही एक कंपनी के प्रोडक्शन सर्वर को हैक कर लिया।
यह घटना हाल ही में हुई: एक OpenAI आंतरिक परीक्षण मॉडल ने, एक कार्य के दौरान स्वयं ही Hugging Face के उत्पादन सर्वर में घुसपैठ कर दी, ताकि किसी बेंचमार्क परीक्षण में धोखेबाजी करके अधिक अंक प्राप्त कर सके। बाद में OpenAI ने इस घटना को "सैंडबॉक्स एस्केप" के रूप में वर्गीकृत किया—सरल शब्दों में, यह इस बात का संकेत है कि मॉडल ने स्वयं ही एक तरीका खोज लिया, जिससे वह मूल रूप से निर्धारित संचालन सीमाओं से बाहर निकल सके।
यह दुर्घटना एक आग की लकीर बन गई। कुछ ही दिनों के बाद, 28 जुलाई को, एक खुला पत्र, जिसका शीर्षक "Pacing the Frontier" था, उद्योग में फैल गया। अब तक, 1178 कर्मचारियों ने हस्ताक्षर किए हैं, जो OpenAI, Anthropic, Google DeepMind, Meta, Thinking Machines सहित पांच विश्व के सबसे शीर्ष AI प्रयोगशालाओं से हैं। पत्र में केंद्रीय अपील केवल एक वाक्य है: अमेरिकी सरकार को नेतृत्व देने की अपेक्षा है कि वह अंतरराष्ट्रीय समुदाय के साथ मिलकर, अग्रणी AI विकास की गति को सक्रिय रूप से धीमा करने के लिए तकनीकी और शासन साधनों का निर्माण करे।
साइनर्स की सूची भारी है। एंथ्रोपिक का आधिकारिक अकाउंट ने समर्थन व्यक्त किया है और स्पष्ट किया है कि यह पत्र कंपनी के सीईओ अमोदेई, कई सह-संस्थापकों और कई उच्च स्तरीय शोधकर्ताओं द्वारा संयुक्त रूप से हस्ताक्षरित है, और इसके साथ ही कंपनि ने पिछले महीने "आपसी पुनर्निर्माण" पर एक शोध प्रकाशित किया था, जो इस अपील का एक आधार है। गूगल डीपमाइंड की ओर से, मुख्य रणनीतिक अधिकारी और एआई सुरक्षा उपाध्यक्ष सूची में हैं; मेटा एआई के मुख्य वैज्ञानिक ने भी हस्ताक्षर किए हैं; ओपनएआई की ओर से आधिकारिक रूप से समर्थन का बयान जारी किया गया है, और मुख्य शोध अधिकारी मार्क चेन भी हस्ताक्षरकर्ताओं में हैं।
यह इस समूह की इस दिशा में पहली बार कोशिश नहीं है। 17 जून को, अमोदेई ने गूगल डीपमाइंड के सीईओ डेमिस हसाबिस के साथ, फ्रांस के एवियन में G7 शिखर सम्मेलन के दौरान एक बंद कार्यसत्र भोजन में, ट्रम्प, मैक्रोन सहित कई देशों के नेताओं के सामने "विकास की गति निर्धारित करने" की मांग पेश की। कनाडा के प्रधानमंत्री कर्नी ने तुरंत संयुक्त राज्य अमेरिका के नेतृत्व में समन्वय तंत्र पर विचार करने की पेशकश की, लेकिन उस बैठक से कोई बाध्यकारी प्रतिबद्धता नहीं बनी। एंथ्रोपिक ने बाद में इस स्थिति को समझाते हुए, ठंडे युद्ध के मध्यम-परास मिसाइल समझौते की तुलना की — भले ही देश भू-राजनीतिक प्रतिस्पर्धा में हों, उन्होंने पहले ही परमाणु हथियारों और मिसाइलों पर प्रतिबंध समझौते किए हैं, तो AI के लिए क्यों नहीं?
हालाँकि, इस पत्र के प्रकाशित होने से कुछ दिन पहले, उसी उद्योग में लगभग विपरीत रवैया दिखाया गया था। 24 जुलाई को, निवेडा के सीईओ हुआंग रेन्ह्युन की नेतृत्व में, माइक्रोसॉफ्ट, मेटा सहित अंततः 50 कंपनियों ने संयुक्त पत्र जारी किया, जिसका मुख्य आह्वान वाशिंगटन के खुले वजन AI मॉडल के प्रसार पर प्रतिबंध लगाने के खिलाफ था—जिसका मतलब है, "हमें नहीं रोको, तकनीक को जितना संभव हो उतना स्वतंत्र रूप से विकसित होने दो।" और इस बार, "Pacing the Frontier" पत्र में आह्वान लगभग उल्टा है: फिर से वाशिंगटन के प्रति संदेश, पिछले हफ्ते "रोको मत" कहा गया, इस हफ्ते "अब समय है नियंत्रण करने का"। और अधिक सूक्ष्मता यह है कि, Anthropic पहले निवेडा के पत्र में हस्ताक्षरकर्ताओं की सूची में शामिल नहीं था, लेकिन इस बार "Pacing the Frontier" के सबसे प्रमुख समर्थकों में से एक बन गया—एक बार अनुपस्थिति, एक बार नेतृत्व, जो प्रतीत होता है कि विरोधाभासी है, लेकिन वास्तव में एक ही स्थिर स्थिति की ओर संकेत करता है: Anthropic "उद्योग को ब्रेक लगाने" की प्रवृत्ति में है, "उद्योग को गैस देने" की प्रवृत्ति में नहीं।
लेकिन इस संयुक्त पत्र के साथ शुरू से ही विवाद रहा। मुक्तवादी प्रौद्योगिकी नीति विश्लेषक एडम टाइलर ने इसे "बहुत चिंताजनक अभ्यास" के रूप में खुलकर आलोचना की, जिसमें अमेरिकी सरकार द्वारा पूरे उद्योग को एक साथ धीमा होने के लिए प्रेरित किया जा रहा है, जिससे स्पष्ट रूप से प्रतिस्पर्धा के खिलाफ प्रभाव पड़ते हैं, खासकर उन बाद के प्रतियोगियों के लिए जो शीर्ष प्रयोगशालाओं के साथ अभी तक पीछे हैं—“सब मिलकर धीमे हो जाएं” का कथन, “कृपया अग्रणी लोगों से सीढ़ी हटा लेने के लिए कहें” जैसा लगता है।
यह सवाल बिल्कुल बेमानी नहीं है। इस हस्ताक्षर सूची को वापस देखें, तो लगभग सभी हस्ताक्षरकर्ता उन लैब्स हैं जो पहले से ही इस क्षेत्र में अग्रणी हैं, न कि जो अभी भी पीछे हैं। धीमी गति से चलना, जिनके पास पहले से ही क्षमता का लाभ है, उनके लिए लगभग कोई लागत नहीं है—उन्हें "अग्रणी बनने" के लिए अब आवश्यकता नहीं है, बल्कि उन्हें अपने अग्रणिता को उत्पाद, सुरक्षा सुरक्षा, और नियामक स्वीकृति में बदलने के लिए समय की आवश्यकता है; लेकिन जो कंपनियाँ अभी भी पीछे हैं, उनके लिए "चाल समन्वय" अगर नीति के रूप में आ जाता है, तो पीछे रहने का समय सीधे बंद हो सकता है।
यह ओपनएआई के सीईओ ऑटमैन की उसी दिन की एक साक्षात्कार को गहरा अर्थ देता है। उन्हें इस संयुक्त पत्र पर हस्ताक्षर करने वालों की सूची में सार्वजनिक रूप से शामिल नहीं किया गया था, लेकिन उसी दिन एक पॉडकास्ट साक्षात्कार में, उन्होंने एक सूक्ष्म रवैया अपनाया—एक ओर "सुरक्षा से संबंधित चिंताएँ कुछ हद तक उचित हैं" को स्वीकार करते हुए, दूसरी ओर यह संकेत देते हुए कि इस तरह की चिंताओं के पीछे, "सुरक्षा के नाम पर केंद्रीय शक्ति प्राप्त करने" की इच्छा भी हो सकती है। इस वाक्य को कुछ मीडिया ने अमोडेई के खिलाफ बिना नाम लिए एक संकेत के रूप में पढ़ा।
इस तरह से गति को धीमा करना, इन प्रयोगशालाओं के लिए खुद के लिए बिना लागत के नहीं है। एक अग्रणी मॉडल को प्रशिक्षित करने के लिए, दर्जनों अरब डॉलर की कंप्यूटिंग क्षमता और हजारों शोधकर्ताओं के वेतन लागत की आवश्यकता होती है, और इन निवेशों का लाभ प्राप्त हो पाना, मुख्य रूप से "अगली पीढ़ी का मॉडल पिछली पीढ़ी से बेहतर होगा" इस निरंतर पूरा होने वाले वादे पर निर्भर करता है—सदस्यता लेने वाले उपयोगकर्ता नवीनीकरण करते हैं, उद्योग ग्राहक अपने प्रसार को बढ़ाते हैं, और निवेशक अपना समर्थन जारी रखते हैं; मूलतः, सभी यही मानते हैं कि यह वक्र हमेशा ऊपर की ओर बढ़ता रहेगा। जब "सक्रिय रूप से पुनरावृत्ति की गति को धीमा करना" केवल एक प्रस्ताव से अभ्यास में बदल जाता है, तो पहले से ही किए गए निवेशों की प्रतिफल अवधि बढ़ जाती है, और "बेहतर मॉडल" के माध्यम से वृद्धि की कहानी को समझाना भी धीमा हो जाता है। यही कारण है कि हालांकि यह पत्र सुरक्षा के नाम पर है, लेकिन हस्ताक्षरकर्ताओं के लिए, यह केवल एक साधारण प्रकटीकरण नहीं, बल्कि सच्चे सोने-चाँदी के साथ भुगतान करने की आवश्यकता वाला एक पसंद है।
इस चर्चा की दिशा निर्धारित करने वाला वास्तविक प्रश्न शायद "क्या धीमा होना चाहिए" नहीं, बल्कि "किसके पास धीमापन की गति और विधि को परिभाषित करने का अधिकार है" है। यदि अंततः संयुक्त राज्य अमेरिका सरकार द्वारा नेतृत्व किया जाए और कुछ सहयोगी देशों के साथ मिलकर एक "समन्वित गति" तंत्र स्थापित किया जाए, तो नियमों का निर्माण अधिकांशतः उन कुछ शीर्ष प्रयोगशालाओं के हाथों में होगा जो इस संयुक्त पत्र के निर्माण में शामिल हैं—वे एक ओर प्रतिबंधित होने वाले हैं, और कुछ हद तक प्रतिबंध मानदंडों के रूपरेखा-निर्माता भी। ऐसी "खिलाड़ी-न्यायाधीश" संरचना ही "प्रतिस्पर्धा-विरोधी प्रभाव" जैसे सवालों की चिंता का केंद्र है; लेकिन इसके विपरीत, ये प्रयोगशालाएँ स्वयं ही वर्तमान में सबसे अधिक प्रगतिशील मॉडल की सीमाओं को समझने वाली, और संभावित जोखिमों को सबसे पहले पहचानने वाली हैं, और उनके द्वारा नियमों के निर्माण में सहभागिता को स्वार्थ के स्थान पर एक व्यावहारिक आवश्यकता के रूप में समझा जा सकता है। दोनों व्याख्याओं के पास अभी तक पर्याप्त सबूत नहीं हैं, जो परस्पर को पूरी तरह से हरा सकें।
इस पत्र ने अंततः एक स्पष्ट उत्तर नहीं छोड़ा, बल्कि एक और अधिक कठिन प्रश्न छोड़ा: जब उद्योग की कुछ सबसे शक्तिशाली कंपनियाँ एक साथ "थोड़ा धीरे हो जाएँ" कहती हैं, तो इसके पीछे सचमुच जोखिम के प्रति जागरूकता हो सकती है, या फिर अपनी अग्रणी स्थिति के प्रति विचार भी शामिल हो सकते हैं—वास्तविकता में ये दोनों प्रेरणाएँ अक्सर एक-दूसरे के विरोधी नहीं होतीं, और इनमें से केवल एक का चयन करना मुश्किल है। लेकिन एक बात सापेक्षिक रूप से निश्चित है: पिछले किसी भी उद्योग में, शीर्ष खिलाड़ियों के स्वयं के प्रयास से "धीरे हो जाएँ" कहने से स्व-नियंत्रण प्राप्त हुआ है—ऐतिहासिक रूप से, वास्तविक प्रभावी मंदी बाहरी नियमन या दुर्घटनाओं के कारण हुई है, न कि आंतरिक सहमति से। क्या यह बार अपवाद होगा, इसका उत्तर शायद जल्दी सामने नहीं आएगा।
यह सामग्री केवल सूचनात्मक उद्देश्य के लिए है और कोई निवेश सुझाव नहीं है। बाजार में जोखिम है, निवेश करते समय सावधानी बरतें।