एक रात में, सिलिकॉन वैली के बड़े कंपनियाँ एआई के लिए ब्रेक लगा देती हैं!
अभी-अभी, OpenAI, Anthropic, Google जैसे विशालकाय कंपनियों के 1100+ कोर स्टाफ ने 'Pacing the Frontier' की याचिका शुरू की है।
इस सूची पर हस्ताक्षर करने वाले लोगों की संख्या इतनी अधिक है कि एक नजर में अंत नहीं दिखता। और यह संख्या अभी भी बढ़ रही है।
ध्यान से देखने पर, सूची में AI दुनिया का लगभग आधा हिस्सा शामिल है—
OpenAI के मुख्य वैज्ञानिक जाकुब पैचोकी, मुख्य शोध अधिकारी मार्क चेन;
एंथ्रोपिक के सीईओ डैरियो अमोडेई, और चार सह-संस्थापक जैरेड कैपलन, जैक क्लार्क, क्रिस ओलाह, बेन मैन;
मेटा के मुख्य वैज्ञानिक शेंगजिया झाओ (Zhao Shengjia) और एआई अनुसंधान उपाध्यक्ष डॉन सोंग (Song Dawn);
थिंकिंग मशीन्स के मुख्य वैज्ञानिक और ChatGPT के प्रमुख निर्माताओं में से एक जॉन शुलमैन;
गूगल के एआई सुरक्षा और समन्वय के उपाध्यक्ष अंका ड्रागन.....
एक सर्वेक्षण के अनुसार, 46.2% हस्ताक्षरकर्ता Anthropic से हैं।
इस संयुक्त पत्र में केवल एक आवश्यकता बताई गई है—
हम अमेरिकी सरकार से एक अंतरराष्ट्रीय सहयोग को आगे बढ़ाने का अनुरोध करते हैं: आवश्यक तकनीक और शासन उपकरणों का विकास करना, ताकि दुनिया सक्रिय रूप से अग्रणी स्वचालित AI अनुसंधान की गति को नियंत्रित करने में सक्षम हो सके।
शायद कई लोग समझ नहीं पाते हैं कि इन LLM को सबसे ज्यादा फोकस करने वाले लोग अचानक 'धीरे करो' क्यों कह रहे हैं?
सिलिकॉन वैली के AI विशेषज्ञों ने संयुक्त रूप से कहा: कृपया AI को धीरे करें
OpenAI मॉडल का Hugging Face पर 'आक्रमण' एक चेतावनी की घंटी है।
केवल एक सप्ताह में, 1132 अग्रणी AI कंपनियों के कर्मचारियों ने संयुक्त रूप से अमेरिकी सरकार को "ब्रेक लगाने" की अपील की।
इस सहयोग में शामिल कर्मचारी OpenAI, Anthropic, Google, Meta जैसे लगभग 12 अग्रणी प्रौद्योगिकी दिग्गजों से आए हैं।
अधिक महत्वपूर्ण बात यह है कि सूची में 80% लोगों ने अपना वास्तविक नाम प्रकट करने का चयन किया।
पोर्टल: https://www.pacingthefrontier.com/
शुरुआत में उल्लिखित कुछ बड़े लोगों के अलावा, नीचे स्क्रॉल करने पर घनत्व और भी डरावना है।
यह बयान एक चेतावनी भरा मूल निष्कर्ष प्रस्तुत करता है:
वैश्विक नेता AI कंपनियाँ संभवतः 'स्वचालित AI अनुसंधान' (RSI, आवर्ती स्व-सुधार) को प्राप्त करने के कगार पर हैं, जिसमें मॉडल अगली पीढ़ी के मॉडल के विकास में शामिल होते हैं।
जब यह चक्र तेज हो जाएगा, तो क्षमता की वृद्धि मानवीय समझ और नियंत्रण की गति से आगे निकल सकती है।
कोई भी कंपनी अकेले धीमी गति से चलना नहीं चाहती, इसलिए उन्होंने अमेरिकी सरकार से अनुरोध किया कि वह एक अंतरराष्ट्रीय तंत्र स्थापित करने में सहायता करे, जिससे संकट आने से पहले ही सामूहिक धीमी गति के उपकरण तैयार हो जाएं।
Ultraman首次谈论「切肤之痛」
OpenAI तेजी से ब्रेक लगाता है
घोषणा जारी होने से एक सप्ताह पहले, OpenAI ने एक सुरक्षा दुर्घटना का खुलासा किया था—
कई अग्रणी मॉडलों ने आंतरिक साइबर सुरक्षा मूल्यांकन में शून्य-दिन के दुरुपयोग की खोज की, सैंडबॉक्स अलगाव को तोड़ दिया, और अंततः Hugging Face के उत्पादन प्रणाली में घुसकर परीक्षण उत्तर ले लिए।
OpenAI इसे "अभूतपूर्व साइबर सुरक्षा घटना" कहता है।
मॉडल ने भागने का इरादा नहीं बनाया, यह केवल एक संकीर्ण लक्ष्य को पूरा करने में अत्यधिक ध्यान केंद्रित कर रहा था और परीक्षण परिवेश को ही अधिकतम कुशलता से पार करने का मार्ग खोज लिया।
आज ही, OpenAI के सीईओ ऑटमैन ने जाहिर किया कि AI के विकास की गति को सक्रिय रूप से नियंत्रित करने की आवश्यकता हो सकती है।
उन्होंने डर के साथ कहा, "यह पहला सुरक्षा घटना था जिसने मुझे वास्तविक रूप से प्रभावित किया। मुझे आश्चर्य हुआ कि इसके प्रति और अधिक लोग सहानुभूति नहीं रखते।"
Hugging Face के हैक होने के कारण, OpenAI ने प्रशिक्षण तुरंत रोक दिया।
एक ऐसे परिवेश में जहाँ कई 0day दरारों का श्रृंखलाबद्ध उपयोग किया जा रहा है, हमें सैंडबॉक्स सुरक्षा को मजबूत करने का तरीका खोजना होगा।
हमें शायद AI के विकास की गति को नियंत्रित करना पड़ेगा, ताकि समाज को इन नए क्षमता स्तरों के चारों ओर रक्षा को मजबूत करने के लिए पर्याप्त समय मिल सके।
और एंथ्रोपिक ने जून में सरकार और डेवलपर्स के बीच एक साझा निर्णय निर्माण प्रणाली स्थापित करने की सिफारिश की थी, ताकि आवश्यकता पड़ने पर अनुसंधान और विकास को धीमा किया जा सके।
इसी बीच, गूगल डीपमाइंड के सीईओ हसाबिस ने भी एक अंतरराष्ट्रीय निगरानी निकाय की स्थापना की आह्वान किया था।
पिछले तीन वर्षों में, इन कंपनियों ने कर्मचारियों, ग्राहकों और कैलकुलेशन शक्ति पर तीव्र प्रतिस्पर्धा की।
इस बार, उनके सबसे मुख्य तकनीकी कर्मचारी ने अपनी बेकार चलती कंपनी को छोड़ दिया और मानवता के कल्याण के लिए एकजुट होकर धीमा होने की अपील की।
Joint Letter: Quotes from Experts
प्रकाशन के समय तक, 'Pacing the Frontier' सूची में 1134 लोग शामिल हैं।
उद्योग के विभिन्न नेता भी अपनी प्रतिक्रिया दे रहे हैं और कई बहुत ही सटीक "शानदार टिप्पणियाँ" छोड़ गए हैं। सभी टिप्पणियाँ व्यक्तिगत रूप से की गई हैं और इनका अपने संगठन की स्थिति का प्रतिनिधित्व नहीं करना चाहिए।
सोंग शियाओडोंग (डॉन सॉन्ग) | मेटा AI के अनुसंधान उपाध्यक्ष
एआई क्षमताएँ तेजी से बढ़ रही हैं, और इस प्रगति की गति भी तेज हो रही है। हमने अपने मूल्यांकन कार्यों में इसका सीधा अवलोकन किया है। साइबरजिम और एक्सप्लॉइटजिम के परिणाम दर्शाते हैं कि अग्रणी एआई एजेंट पहले से ही वास्तविक दुनिया के सॉफ्टवेयर दुर्बलताओं को खोजने और उनका दुरुपयोग करने में सक्षम हैं—यदि उचित सुरक्षा उपाय नहीं हैं, तो इससे विशाल साइबर हमले हो सकते हैं। कई शोधकर्ता आत्म-संदर्भित प्रक्रियाओं पर ध्यान केंद्रित कर रहे हैं…
सोंग शियाओडोंग वैश्विक कंप्यूटर सुरक्षा और एआई सुरक्षा क्षेत्र के सबसे प्रभावशाली शोधकर्ताओं में से एक हैं, जिन्होंने त्सिंहुआ विश्वविद्यालय से स्नातक किया है।
जियाओ शेंजिया (Shengjia Zhao) | मेटा की मुख्य वैज्ञानिक
AI सामाजिक रूप से संभवतः तैयार नहीं होने की दर से आगे बढ़ रहा है। सभी बुद्धिमानी सूचकों पर सर्वश्रेष्ठ मानव को पार करने वाले AI तक पहुँचने के लिए अग्रणी प्रयोगशालाएँ बहुत करीब हैं। इससे अभूतपूर्व सामाजिक और सुरक्षा जोखिम उत्पन्न होंगे। एक सकारात्मक भविष्य सुनिश्चित करने के लिए, हमें AI के विकास को जिम्मेदारी और सावधानी से निर्देशित करना होगा।
क्वांगहुआ विश्वविद्यालय के स्नातक जिया शेंजिया, मेटा के सुपरइंटेलिजेंस के मुख्य वैज्ञानिक बने! GPT-4 के मुख्य योगदानकर्ता, लेक्यून के बराबर
जॉन शुलमैन｜थिंकिंग मशीन्स के मुख्य वैज्ञानिक, पूर्व OpenAI सह-संस्थापक
मैंने हस्ताक्षर किए क्योंकि यह बयान एक सहमति बनाने में मदद करता है कि स्वचालित AI शोध के तेजी से तेज होने के साथ, हमें समन्वय तंत्र की आवश्यकता हो सकती है। मैं चाहता हूँ कि प्रयोगशालाएँ अमेरिकी सरकार के हस्तक्षेप से पहले ही इन तंत्रों के डिज़ाइन को शुरू कर दें।
एथन पेरेज｜एंथ्रोपिक अलाइनमेंट टीम के प्रमुख
वर्तमान AI प्रगति की गति के अनुसार, AI कंपनियों की सुरक्षा टीमें हर कुछ महीने में नए सामाजिक जोखिमों से निपटने के लिए पूरी तरह से त्वरित कार्य करती हैं। एक दिन, हमें ऐसी समस्याएँ मिलेंगी जिनका समाधान करने के लिए हमें अधिक समय की आवश्यकता होगी।
लियो गाओ | OpenAI तकनीकी टीम के सदस्य
दुनिया एक घातक प्रतियोगिता में फंस गई है, जो बुद्धिमत्ता के विस्फोट की ओर जा रही है—AI की अपने से अधिक शक्तिशाली AI बनाने की क्षमता एक अनियंत्रित परमाणु श्रृंखला प्रतिक्रिया की तरह सीमा के करीब पहुंच रही है। धीमा होने से हमें जरूरी समय मिलेगा ताकि चीजें सकारात्मक दिशा में बढ़ सकें, लेकिन कोई भी प्रतिभागी अकेले रुकने को तैयार नहीं है। बचने के लिए, हमें समन्वय करके इस प्रतियोगिता को धीमा करना होगा।
वॉकर स्मिथ｜मेटा डेटा इंजीनियर
हासबिस सही है: हम आज एक अद्वितीय शिखर के आधार पर खड़े हैं। OpenAI की उस अनजाने में हुई मॉडल भाग घटना—जिसमें यह HuggingFace में घुस गया—एक स्पष्ट और अविभाज्य चेतावनी है: हम ऐसे AI सिस्टम के सामने तैयार नहीं हैं, जो मानवता के सबसे बुद्धिमान मस्तिष्क से अधिक क्षमता रखते हैं। हमें समय की आवश्यकता है, ताकि AI को संरेखित करना और नियंत्रित करना सर्वोच्च प्राथमिकता के रूप में आगे बढ़ाया जा सके, और इस प्रतिस्पर्धा को इसी तरह जारी नहीं रखा जा सकता।
ब्रैंडन हॉटन｜OpenAI
मैं मानवता को उन्नत AI पर नियंत्रण रखने का समर्थन करता हूँ, लेकिन हमें इसके लिए सावधानी से सोचना चाहिए। यदि शासन केवल खुले मॉडलों तक ही सीमित रहता है, तो उन उन्नतम क्षमताओं को निजी या विशिष्ट प्रणालियों में धकेल दिया जा सकता है—जिन पर स्वतंत्र समीक्षा नहीं होती और जिनकी पहुँच केवल कुछ ही लोगों के पास होती है। इसका परिणाम शक्ति का अधिक केंद्रीकरण होगा, जबकि जोखिम में कोई महत्वपूर्ण कमी नहीं आएगी। प्रभावी नियमन को मापने योग्य, सत्यापित करने योग्य होना चाहिए और खुले तथा गुप्त अनुसंधान दोनों में समान रूप से लागू होना चाहिए, साथ ही संवेदनशील डेटा की सुरक्षा के साथ। अन्यथा, हम केवल पहुँच की गति को ही धीमा कर रहे हैं, न कि अग्रणी प्रगति को।
जो कार्लस्मिथ｜Anthropic तकनीकी टीम के सदस्य
मेरे एक्टिव रेगुलेशन ऑफ एआई डेवलपमेंट के विस्तृत दृष्टिकोण के लिए, कृपया इस लेख को देखें: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/
संदर्भ:
https://www.pacingthefrontier.com/
यह लेख वेचेन ग्रुप "न्यूज़िज़युएन" से आया है, संपादन: ताओज़ी, माको