कितना ड्रामाटिक! यह शायद पूरे इंटरनेट पर ऑटोमन के सबसे विस्तृत राजनीतिक नाटक का पूर्ण समीक्षा है।
घटना के दूसरे प्रमुख पात्र, OpenAI के दूसरे नंबर ग्रेग ब्रॉकमैन ने स्वयं खुलासा किया:
ऑटोमन को निकालने के 72 घंटे के भीतर, क्या हुआ?
सच्चाई बार-बार सामने आ रही है, लेकिन काफी दर्दनाक है:
ग्रेग और ऑटमैन को घटना से पहले कुछ भी पता नहीं था, और अभी तक, प्रत्यक्षदर्शी स्वयं यह विचार कर रहे हैं कि कौन सा चरण गलत हो गया।
बोर्ड ने शुरू में केवल ऑटमैन को निकालना चाहा था, लेकिन ग्रेग बहुत वफादार था, और उसी दिन उसने इस्तीफा दे दिया।
बर्खास्तगी के अगले दिन, उन्होंने ऑटमैन के घर पर गुप्त बैठक की, नई कंपनी की तैयारी की, और सभी कर्मचारियों को ले जाने की योजना बनाई।
बोर्ड ने अचानक फैसला बदल दिया, जिसमें ऑटीमैन के साथ वापसी की बात लगभग तय हो चुकी थी, लेकिन अचानक नए सीईओ की नियुक्ति कर दी गई।
पूरे अंतिम सप्ताहांत के दौरान, सभी प्रतिद्वंद्वी लोगों को बहुत जोर से निकाल रहे थे, लेकिन किसी ने भी स्वीकार नहीं किया।
Ilya का वापसी, Greg के लिए एक बोझ उतार देने जैसा था।
एक घंटे से अधिक की साक्षात्कार में, ग्रेग ने इस ऐतिहासिक सिलिकॉन वैली तख्तापलट की पूरी कहानी स्पष्ट कर दी और OpenAI के उदय, लाभ के लिए रूपांतरण के कारण, और भविष्य की दिशा सहित सभी प्रश्नों के जवाब दिए।
स्ट्राइप से जाने के बाद की भ्रमितता, नापा वैली में निर्णायक ऑफसाइट तक, और फिर डोटा प्रोजेक्ट में अप्रत्याशित उत्कर्ष तक—जानकारी का घनत्व अत्यधिक है।
ग्रेग ने कई बार आँखें भर लीं:
जब इल्या चला गया, तो मुझे एकमात्र बार ऐसा लगा कि मैं इसे आगे नहीं करना चाहता।
यहाँ दस हजार शब्दों का साक्षात्कार पूर्ण पाठ है, जिसे मूल अर्थ को बनाए रखते हुए संक्षिप्त किया और समायोजित किया गया है।
OpenAI के अध्यक्ष ग्रेग ब्रॉकमैन से बातचीत
(निम्नलिखित में होस्ट शेन पैरिश के प्रश्न को Q के रूप में संक्षिप्त किया गया है)
OpenAI आत्मसंदेह से जन्मा
Q: OpenAI की स्थापना कैसे हुई?
ग्रेग: मुझे पता है कि मैं उद्यमी बनना चाहता हूँ, क्योंकि मुझे लगता है कि यह अत्यंत महत्वपूर्ण है।
Q: लेकिन आप तो तब Stripe में हाल ही में शुरुआत कर चुके थे।
ग्रेग: हाँ, लेकिन मुझे हमेशा ऐसा लगा कि स्ट्राइप जिस समस्या को हल करना चाहता है, वह मेरी समस्या नहीं है।
यह निश्चित रूप से महत्वपूर्ण है, और मैंने इसमें कई वर्ष बिताए हैं। लेकिन मुझे लगता है कि चाहे मैं हो या न हो, यह सफल हो जाएगा।
तब मुझे पहली बार वास्तविक अवसर मिला कि सोचूँ: मेरा वह मिशन क्या है जिसमें मैं पूरी जिंदगी लगना चाहूँ? एक ऐसी समस्या जिसे मैं अपने बाकी जीवन के लिए आगे बढ़ाने के लिए तैयार हूँ, भले ही इसे सिर्फ थोड़ा बेहतर बनाना हो।
उत्तर स्पष्ट है—AI।
अगर आप वास्तविक रूप से AI के विश्वव्यापी विकास की दिशा को प्रभावित कर सकते हैं, तो यह जीवन व्यर्थ नहीं होगा।
जब आप Stripe छोड़ने की योजना बना रहे थे, तो पैट्रिक ने आपको सैम ऑल्टमैन से बात करने के लिए कहा, उस बातचीत में क्या हुआ?
ग्रेग: पैट्रिक ने उस समय मुझसे कहा कि सैम ने मेरे जैसे कई युवाओं को देखा है।
वास्तव में, मुझे पता था कि पैट्रिक का मतलब यह था कि सैम मुझे रुकने के लिए मना ले, लेकिन सैम के साथ कुछ मिनट बात करने के बाद, उसने स्पष्ट कर दिया कि मैं जाने का दृढ़ संकल्प रखता हूँ।
फिर सैम ने मुझसे अगला क्या योजना है, पूछा, मैंने उसे बताया कि मैं एक AI कंपनी शुरू करने पर विचार कर रहा हूँ।
Sam ने कहा कि वह AI क्षेत्र में कुछ करने पर भी विचार कर रहा है और बाद में संपर्क बनाए रखना चाहता है।
स्ट्राइप छोड़ने के बाद, मैंने सैम से फिर से बात की, और इस बार सैम ने कहा कि उसके पास अब अधिक विशिष्ट विचार हैं और उसने मुझे जुलाई की रात्रिभोज में शामिल होने के लिए आमंत्रित किया।
मुझे याद है कि उस समय डिनर का विषय यह था: अब एक प्रयोगशाला स्थापित करना, दुनिया भर के सर्वश्रेष्ठ शोधकर्ताओं को एकत्रित करना, क्या इतनी देर हो चुकी है? क्या अभी भी संभव है?
वह कौन सा वर्ष था?
ग्रेग: 2015।
उस समय डीपमाइंड लगभग सभी शीर्ष शोधकर्ताओं, धन और डेटा पर एकाधिकार रख चुका था। हम सभी को संदेह था कि क्या हम फिर से कुछ नया बना पाएंगे?
सभी ने असंख्य कठिनाइयों की सूची बनाई, लेकिन किसी ने भी एक वास्तविक असंभव कारण नहीं दिया।
तो उस रात, सैम और मैं शहर की ओर गाड़ी चला रहे थे। हमने एक-दूसरे की ओर देखा, और उसने कहा, हमें यह करना होगा।
अगले दिन, मैंने तैयारी में पूरी तरह से लग जाना शुरू कर दिया।
यह कठिन है, सब कुछ अस्पष्ट है। हमारे पास केवल एक दृष्टि है: हम व्यापक मानवीय बुद्धिमत्ता का निर्माण करना चाहते हैं, ताकि यह दुनिया के लिए सकारात्मक प्रभाव डाले और लाभ सामान्य जनता को प्राप्त हो। लेकिन इसे कैसे करें, और लोगों को छोड़कर हमारे साथ जुड़ने के लिए कैसे प्रभावित करें, इसके बारे में हमें पूरी तरह से कोई विचार नहीं है।
शुरू में, मेरा मूल टीम सदस्य Ilya, John Schulman और मैं थे। हमने लैब के विभिन्न दृष्टिकोणों और संभावित कार्य विधियों पर चर्चा करने में बहुत समय बिताया, लेकिन कभी भी कुछ भी आकार नहीं ले पाया।
एक कारण यह था कि प्रोजेक्ट में पर्याप्त गति की कमी की चिंता थी, डैरियो को लगा कि उन्हें पहले अपनी प्रतिष्ठा बनानी चाहिए, और वे अनिश्चित थे कि यह प्रोजेक्ट इसके लिए उपयुक्त है।
इसी बीच, मैंने जॉन शुलमैन को शामिल होने के लिए आह्वान किया, और उन्होंने सहमति दे दी। लेकिन डैरियो और क्रिस अंततः Google Brain में जाने का फैसला कर गए, और टीम में वास्तव में केवल मैं, इल्या, जॉन और कुछ अन्य लोग रह गए।
उस समय लगभग 10 लोगों ने दिलचस्पी दर्शाई, लेकिन सभी यह देख रहे थे कि और कौन शामिल होगा।
मैंने सैम से पूछा कि हम इस जमावट को कैसे तोड़ें, सैम ने सभी को बाहर ले जाकर एक ऑफ-साइट एक्टिविटी का आयोजन करने की सलाह दी। हमने नापा वैली चुना, और मैंने खुद T-शर्ट भी बनवाई।
तब कोई औपचारिक ऑफर नहीं था, कोई कंपनी संरचना नहीं थी, कुछ भी नहीं था। हमारे पास केवल एक विचार, एक दृष्टि और एक मिशन था।
लेकिन जब हमने उस दिन नापा घाटी में लोगों को बुलाया, तो हमें प्रेरणा मिली और हमने अगले दशक के तकनीकी रास्ते को लगभग तय कर लिया:
1. रीइनफोर्समेंट लर्निंग समस्याओं को हल करें। 2. अनुपलब्ध लर्निंग समस्याओं को हल करें। 3. धीरे-धीरे अधिक जटिल चीजों को सीखें।
बंद बैठक के बाद, मैंने हर किसी को ऑफर भेजा है और उन्हें सूचित किया है कि हम अगले 2-3 सप्ताह में शुरू करने जा रहे हैं, अगर आप शामिल होना चाहते हैं तो कृपया सूचित करें।
Q: तब डीपमाइंड को पार करना क्यों मुश्किल लग रहा था?
ग्रेग: उस समय गूगल डीपमाइंड AI क्षेत्र में एक विशालकाय था, उनके पास भारी निवेश था और उनकी उपलब्धियाँ अद्वितीय थीं, यह AlphaGo के लॉन्च से कुछ महीने पहले की बात थी, लेकिन उनका लाभ पहले से ही स्पष्ट था।
इसलिए हम संदेह करते हैं: क्या वास्तव में एक स्वतंत्र नया संगठन बनाया जा सकता है? उत्तर स्पष्ट नहीं है।
Non-profit justification betrayal
आपने कब महसूस किया कि गैर-लाभकारी रास्ता काम नहीं कर रहा है?
ग्रेग: 2017 में, हमने बहुत गंभीरता से सोचना शुरू किया कि हम अपने मिशन को कैसे वास्तविक रूप दें और AGI कैसे बनाएं। हमने कैलकुलेशन की आवश्यकता की गणना की, और पता चला कि हमें अत्यधिक पैमाने पर कैलकुलेशन उपकरणों की आवश्यकता होगी।
तब हमने Cerebras कंपनी से संपर्क किया, जो एक विशेष गणना हार्डवेयर विकसित कर रही थी, जिसकी क्षमता हमारे खुद के गणना स्तर से कहीं अधिक थी।
इसलिए हमें एहसास हुआ कि अगर हम ऐसे बहुत सारे उपकरण खरीद सकें, Cerebras के उत्पादों को अनन्य रूप से प्राप्त कर सकें, और अत्यंत विशाल डेटा केंद्र बना सकें, तो यह हमें दबाव वाला लाभ प्रदान करेगा।
लेकिन गैर-लाभकारी संगठनों के लिए फंडिंग की सीमा होती है, जो इतने बड़े निवेश को संभाल नहीं सकती। इसलिए, एलन, सैम, इल्या और मैं सभी एकमत थे कि OpenAI के मिशन को पूरा करने का एकमात्र मार्ग एक लाभकारी सहयोगी संस्था बनाना है।
OpenAI का अपना 'GPT मोमेंट'
Q: आपको कब पता चला कि सब कुछ बिल्कुल बदल जाएगा? Dota प्रोजेक्ट से पहले, या बाद में?
ग्रेग: ओपनएआई का काम करने का तरीका एक लगातार "सपने साकार होने" के क्षणों की श्रृंखला है। हर बार जब आपको लगता है कि आपने सब कुछ समझ लिया है, तो जल्द ही आप नए सीमाओं को देखते हैं।
जब हमने टीम का गठन किया तो हम बहुत उत्साहित थे कि हमने वास्तव में टीम को इकट्ठा कर लिया है और हम अपने मिशन को आगे बढ़ाना शुरू कर सकते हैं। लेकिन अगले दिन ऑफिस पहुँचकर हमें पता चला कि एक भी ब्लैकबोर्ड नहीं है।
Dota प्रोजेक्ट हमारा पहला बड़ा उपलब्धि था, जिससे हमें वास्तव में एहसास हुआ कि अगर हम पूरी तरह से लग जाएं, तो हम सचमुच कर सकते हैं। यह साबित करता है कि अगर हम कैलकुलेशन क्षमता को एकत्रित करें और इसे बढ़ाएं, तो परिणाम मजबूत होते हैं।
GPT श्रृंखला में ऐसे कई पल भी हैं, जैसे एक प्रारंभिक अनुलग्नक भावनात्मक न्यूरॉन पेपर, जिसमें हमने पहली बार भाषा मॉडलिंग लक्ष्य के प्रशिक्षण से अर्थ का उभार देखा।
आप मॉडल को अगले वर्ण का अनुमान लगाने के लिए प्रशिक्षित करते हैं, और अचानक, आपको भावनाओं को समझने और सकारात्मक और नकारात्मक को अलग करने में सक्षम एक न्यूरल नेटवर्क मिल जाता है।
उस क्षण हमें एहसास हुआ कि हम वह मशीनें बना रहे हैं जो केवल व्याकरणिक नियमों के बजाय अर्थ को सीख सकती हैं।
जब GPT-4 लॉन्च हुआ, तो कुछ लोग पूछने लगे कि इसके बाद भी यह AGI क्यों नहीं है। यह बहुत अच्छी तरह से बातचीत कर सकता है और हमारे पिछले AGI की परिभाषाओं को लगभग पूरा करता है, लेकिन अभी भी एक कदम की दूरी पर है।
एक लंबी यात्रा के दौरान, कई ऐसे पल आए जिनमें हमें लगा कि हमारा सपना साकार हो रहा है, लेकिन ये पल अभी खत्म नहीं हुए हैं; हमारे पास और भी क्रांतिकारी पल होंगे, और फिर हम समझेंगे कि अगला चरण संभव हो सकता है।
Q: आपको लगता है कि Dota क्यों इतना महत्वपूर्ण है?
ग्रेग: डोटा एक अविश्वसनीय क्षण है, यह डीप ब्लू के शतरंज खेलने या अल्फागो के गो खेलने की तरह स्पष्ट नियमों वाला नहीं है; यह जटिल खुले परिवेश में मानवों के साथ वास्तविक समय में बातचीत करना है, जो वास्तविक दुनिया के करीब है।
वास्तव में, हमने शुरू में इसका उपयोग नए एल्गोरिथम की पुष्टि के लिए किया था, क्योंकि उस समय रीइनफोर्समेंट लर्निंग को स्केल नहीं किया जा सकता था। लेकिन जब हमने कंप्यूटिंग पावर को बढ़ाया, तो अत्यंत सरल PPO एल्गोरिथम के साथ हमने सर्वश्रेष्ठ मानव खिलाड़ियों को पार कर दिया, जिससे साबित हुआ:
बड़े पैमाने पर कैलकुलेशन क्षमता + सरल अल्गोरिदम, व्यावहारिक रूप से वास्तविक है।
इस अत्यंत अव्यवस्थित परिवेश में, जहाँ प्रोग्रामिंग नहीं की जा सकती, भविष्यवाणी नहीं की जा सकती और खोज नहीं की जा सकती, आपको लगभग मानवीय अनुभव की आवश्यकता होती है।
और उस समय जिस छोटे न्यूरल नेटवर्क का उपयोग किया जा रहा था, उसमें सिनेप्स की संख्या कीट के मस्तिष्क के बराबर थी, हमें एहसास होगा कि अगर हम इस दृष्टिकोण को मानव मस्तिष्क के स्तर तक विस्तारित करें, तो क्या होगा? यह एक बहुत ही आकर्षक और अच्छा प्रश्न है।
प्रश्न: चूंकि हम भविष्यवाणी की बात कर रहे हैं, तो क्या आपको लगता है कि भविष्यवाणी और निष्कर्ष निकालने में अंतर है?
ग्रेग: मुझे लगता है कि दोनों के बीच गहरा संबंध है।
अगले शब्द का अनुमान लगाना लगता है कि सरल है, लेकिन अगर आप आइंस्टीन के अगले शब्द का सटीक अनुमान लगा सकते हैं, तो कम से कम आप आइंस्टीन के जितने बुद्धिमान हैं।
पूर्वानुमान का केंद्र ज्ञात जानकारी का भविष्यवाणी करना नहीं, बल्कि कभी न देखे गए नए परिदृश्यों में आगे के विकास का अनुमान लगाना है, जो बुद्धिमत्ता की मूलभूत प्रकृति से गहराई से जुड़ा हुआ है।
वर्तमान में निष्कर्ष निकालने वाले मॉडल दो चरणों में विभाजित हैं:
1. अनुपलब्ध शिक्षा: मॉडल को अगला क्या होगा, इसका अनुमान लगाकर प्रशिक्षित करें। डेटा अधिक स्थैतिक और अवलोकनात्मक होता है। 2. पुरस्कार आधारित शिक्षा: AI को अपने डेटा पर सीखने दें। यह स्वयं कार्रवाई करता है, दुनिया से प्रतिक्रिया प्राप्त करता है, और उससे सीखता है। प्रशिक्षण का मूलभूत तरीका अभी भी अनुमान लगाना है—कार्रवाई के बाद क्या होगा, इसका अनुमान लगाना और परिणाम के आधार पर पुरस्कार देना।
लेकिन मूल रूप से, इन दोनों चरणों में उपयोग की जाने वाली तकनीक पूरी तरह समान है, दोनों भविष्यवाणी हैं, केवल डेटा संरचनाएँ अलग हैं।
Ultraman confrontation incident
प्रश्न: आंतरिक विरोध कब से तीव्र होने लगा?
ग्रेग: ओपनएआई की विशेषता यह है कि हम यह मानते हैं कि हम मानव स्तर के बराबर एआई बना सकते हैं, जिसका अर्थ है कि जोखिम बहुत अधिक है।
कौन निर्णय ले रहा है? इन निर्णयों के पीछे क्या मूल्य हैं? सामान्य कंपनियों में अप्रासंगिक बातें, जैसे कार्यालय राजनीति, यहाँ मानव अस्तित्व के मुद्दों का भार ले लेती हैं।
मुझे लगता है कि इससे OpenAI के अंदर कई विकास प्रभावित हुए हैं, और यह सभी बड़े संघर्षों का मूल कारण है।
AI के क्षेत्र में एक मुख्य ड्राइवर यह है कि लोग तकनीकी क्रांति के केंद्र में खड़े होना और याद किए जाने वाले बनना चाहते हैं, इसलिए यह केवल OpenAI की समस्या नहीं है।
और एआई तकनीक की प्रकृति टुकड़ों में होती है, उच्च दबाव के तहत यह हीरे को तैयार कर सकती है या दरारें पैदा कर सकती है, इसलिए आप अक्सर छोटे समूहों में हीरों के निर्माण को देखते हैं, क्योंकि वे एक साथ मिलकर काम करते हैं और एक-दूसरे पर अत्यधिक विश्वास करते हैं। लेकिन कभी-कभी वे टूट जाते हैं और अपना रास्ता अपनाते हैं।
मुझे लगता है कि AI क्षेत्र में विविध पथ और सकारात्मक प्रतिस्पर्धा सामान्य हैं, जो हमें तकनीक को सुरक्षित ढंग से आगे बढ़ाने और सुरक्षा, नैतिकता जैसे जटिल मुद्दों पर चर्चा करने में सक्षम बनाती हैं।
इसलिए OpenAI के अंदर स्वस्थ बहस हमेशा से रही है, लेकिन अब यह पूरी दुनिया में हो रही है।
Q: तो आइए उस क्षण पर वापस आते हैं जब आपको पता चला कि सैम को निकाल दिया गया है, आप कहाँ थे?
ग्रेग: मैं घर पर था। मुझे एक वीडियो कॉल के लिए आमंत्रण का संदेश मिला, और मैंने ध्यान दिया कि सैम के अलावा सभी बोर्ड सदस्य वहां मौजूद थे। मुझे तुरंत बुरी बात का अहसास हुआ।
उन्होंने मुझे बताया कि बोर्ड ने सैम को हटा देने का फैसला कर लिया है। मुझे जो सूचना मिली, वह सार्वजनिक बयान के समान थी, इसलिए मैंने अधिक विवरण के लिए पूछने की कोशिश की, लेकिन मुझे इंकार कर दिया गया।
उन्होंने बाद में कहा कि मुझे बोर्ड से हटा दिया गया है, लेकिन मैं कंपनी में रहूंगा क्योंकि मैं कंपनी और उसके मिशन के लिए अत्यंत महत्वपूर्ण हूं।
मैंने फिर से कारण मांगे, लेकिन फिर भी इनकार कर दिया गया। अंत में उन्होंने मुझे बताया कि नए आर्किटेक्चर के तहत, मुझे प्रतिक्रिया मिल सकती है। यही उस बातचीत का सार था।
प्रश्न: आपके मन में तब क्या चल रहा था? क्रोधित महसूस कर रहे थे?
ग्रेग: नहीं, मुझे लगता है कि यह सही नहीं है, लेकिन मैं लगभग समझ सकता हूँ कि क्या हुआ है।
आपको इस सबका कारण क्या था, यह जानने में कितना समय लगा?
ग्रेग: उत्तर दो भागों में है। पहला, मुझे लगता है कि मैं अभी भी कुछ नए तथ्यों और दूसरों के मन में चल रही बातों को समझता जा रहा हूँ। किसी तरह, यह संचार की कमी में समाप्त होता है, और आपको अचानक एहसास होता है कि पहले कई चीजें नज़रअंदाज़ कर दी गई थीं।
दूसरी ओर, मुझे लगभग पता है कि उनमें से प्रत्येक ऐसा क्यों कर रहा है।
लेकिन उस क्षण में, कारण ढूंढना महत्वपूर्ण नहीं था, मुझे सिर्फ यह पता था कि यह गलत है। इसलिए फोन काटने के बाद, मैंने तुरंत अपनी पत्नी को बताया कि मैं इस्तीफा दे रहा हूँ, और उसने भी सहमति जताई।
तब मैंने उसी दिन इस्तीफा दे दिया।
नौकरी छोड़ने के बाद, मुझे कई संदेश मिलने लगे। हमें बहुत सारा समर्थन और उत्साह प्राप्त हुआ, और कई लोग हमारे साथ छोड़कर नया उद्यम शुरू करने को तैयार थे, जिनमें जैकोब, शिमोने, एलेक्सैंडर शामिल हैं।
Later, we got together with Sam and started planning a new company.
पहले दिन, हमें लगा कि सैम के वापस आने की संभावना केवल 10% है। इसलिए हमने सैम के घर पर एक मीटिंग आयोजित की, जिसमें कंपनी के कई लोग आए, और हमने उन्हें जो चित्र बना रहे थे, वह दिखाया। एक दिन में, हमें प्रोजेक्ट को कैसे चलाया जाए, इसकी पूरी नई छवि मिल गई।
उस सप्ताहांत के दौरान, हमने बोर्ड और कंपनी के साथ बहुत समय बिताया और एक अर्थपूर्ण वापसी का रास्ता खोजने की कोशिश की।
रविवार की रात, बोर्ड ने अचानक अस्थायी रूप से नए सीईओ की नियुक्ति कर दी, जिससे मेरी जगह ले ली गई और कंपनी में पूरी तरह से विरोध फैल गया। वास्तव में, उस समय हम ऑफिस में थे, और हमने देखा कि ठीक ही हम एक समझौते पर पहुंचने वाले थे, जिससे हम घर लौट सकते थे, लेकिन बोर्ड ने अचानक अपना फैसला बदल दिया।
लोग इमारत से बाहर निकलने लगे, भीड़ बढ़ गई।
हमने नई कंपनी में रुचि रखने वाले लोगों के साथ वीडियो कॉल शुरू किया, उन्हें यह समझाया कि सब कुछ ठीक हो जाएगा, हमारे पास योजना है। हम हमेशा से एक छोटे से समूह के लिए बचाव नौका बनाने की कोशिश कर रहे थे, लेकिन अचानक, ऐसा लगा कि सभी ने अपना मन बदल दिया है और सभी हमारी नई कंपनी में शामिल होना चाहते हैं।
सैम ने माइक्रोसॉफ्ट के सीईओ सत्या से भी बात की, जिसके बारे में हम पहले से ही चर्चा कर रहे थे कि क्या वह हमारे नए प्रयास का समर्थन कर सकते हैं। हम बचाव नौकाओं के पैमाने को बढ़ाना चाहते हैं, जैसे कि OpenAI के सभी कर्मचारियों को ले जाना।
उस समय धन्यवाद दिवस के पहले का समय था, जब बहुत से लोग अपने परिवार के साथ मिलने के लिए उड़ानें बुक कर चुके थे, लेकिन उन्होंने सभी उड़ानों को रद्द कर दिया और कार्यालय में भीड़ जमा हो गई।
हर कोई वहां मौजूद था, भले ही वे बातचीत में शामिल न हों, वे इस इतिहास को अपनी आंखों से देखना चाहते थे।
फिर, आवेदन पत्र फैलने लगा। बहुत सारे लोग एक साथ आवेदन पत्र पर हस्ताक्षर करने की कोशिश कर रहे थे, जिससे Google Docs एक समय पर क्रैश हो गया, इसलिए अंततः कुछ लोगों को ही नाम दर्ज करने के लिए नियुक्त किया गया, ताकि एक साथ बहुत सारे संपादक न हों।
मुझे याद है कि मैं लगभग सुबह 5 बजे घर पहुंचा, 45 मिनट सोया, और जागने के बाद Twitter ब्राउज़ करते हुए इल्या ने एक ट्वीट किया और एक आवेदन पर हस्ताक्षर किए, जिसमें उन्होंने कहा कि वे चाहते हैं कि कंपनी फिर से एकजुट हो जाए।
यह वास्तव में एक आराम का पल था। मैं बहुत आभारी हूँ, मुझे लगता है कि हम सब कुछ फिर से जोड़ सकते हैं और हम फिर से सही दिशा में आ सकते हैं।
Q: आपने Ilya के साथ मिलकर इस कंपनी की स्थापना की, उस घटना के बाद आपको अपने रिश्ते के बारे में क्या लगा?
ग्रेग: यह कठिन था। हमारे बीच बहुत गहरा संबंध था, उसने मेरी शादी में मंत्री का काम किया था, और हमने कई बहुत कठिन पल एक साथ बिताए। लेकिन किसी भी संबंध में कभी-कभी उतार-चढ़ाव आते हैं।
बाद में, हमने वास्तव में बातचीत करने में बहुत समय बिताया, ताकि हम अपने बीच जमा हुए या अभी तक न कहे गए चीजों को समझ सकें और व्यक्त कर सकें। इस प्रक्रिया के माध्यम से, मुझे लगता है कि हम एक बहुत अच्छी स्थिति में पहुँच गए।
For me, I feel we have closure on everything that happened.
आप अपने द्वारा प्रेरित कर्मचारी विश्वास के प्रति कैसे महसूस करते हैं?
ग्रेग: मैं इसके लिए गहरी आभारी हूँ। मैंने कभी इनकी अपेक्षा नहीं की थी और न ही मैंने इन्हें मांगा था।
मेरा नेतृत्व शैली एक ऐसा नेता है जो सीधे कार्यक्षेत्र में होता है, जो पहले आगे बढ़ने की कोशिश करता है, कभी-कभी भावनात्मक होता है; मैं हमेशा पीछे मुड़कर नहीं देखता कि क्या सभी मेरे साथ हैं, मैं बस आगे बढ़ता रहता हूँ।
लेकिन जब लोग वास्तव में बनाने में मदद करने आए, तो मुझे बहुत आभार महसूस हुआ और मुझे लगा कि वे हर पहलू में मेरी उम्मीदों से आगे निकल गए।
प्रश्न: तो अंततः सभी वापस आ गए?
ग्रेग: वास्तव में, पूरे अंतिम सप्ताहांत के दौरान, सभी प्रतिद्वंद्वी देख रहे थे। लोगों को विभिन्न प्रस्ताव मिले, लेकिन उस अंतिम सप्ताहांत के दौरान, हमने किसी को नहीं खोया, किसी ने भी प्रस्ताव स्वीकार नहीं किया। यह अविश्वसनीय था।
वास्तव में, कोच बिल बेलिचेक ने मुझे बताया था कि सबसे अच्छी टीमें पैसे के लिए नहीं, बल्कि अपने आसपास के लोगों के लिए खेलती हैं। जब सभी हमारा समर्थन करने आए, तो मुझे तब यह बात याद आई।
Undoubtedly, this is a diamond moment.
अल्प विराम और आत्म-परीक्षण
प्रश्न: इस सब के बाद, आपने थोड़ा आराम किया, आपके मन में क्या हुआ?
ग्रेग: इसे अनुभव करना या वापस आकर सामना करना दोनों ही एक तीव्र अनुभव था।
लेकिन ईमानदारी से कहूँ, ओपनएआई के इतिहास में से एक सबसे कठिन पल इल्या के चले जाने का था। शायद यही ओपनएआई के इतिहास में एकमात्र पल था जब मुझे लगा कि मैं यह काम जारी रखना नहीं चाहता।
मुझे लगता है कि मुझे खुद को फिर से पाने में कुछ समय लगेगा, यह समझने में कि मैंने यह क्यों शुरू किया, यह क्यों इतना महत्वपूर्ण है, और इन सभी दर्दों को सहन करने लायक क्यों है।
आपने आराम के दौरान क्या किया?
ग्रेग: मैंने डीएनए अनुक्रम पर भाषा मॉडल को प्रशिक्षित किया है।
वास्तव में, मैंने OpenAI के दौरान ही यह काम किया था, Arc गैर-लाभकारी बायोमेडिकल शोध संस्थान के लिए। मैंने अपने कौशल का उपयोग एक बहुत अलग क्षेत्र में किया, जो मेरे और मेरी पत्नी के लिए बहुत महत्वपूर्ण था।
मेरी पत्नी को कई स्वास्थ्य समस्याएँ हैं, और हम लगातार सोच रहे हैं कि AI उनके स्वास्थ्य और जानवरों के स्वास्थ्य के लिए क्या कर सकता है। इस अनुभव ने मुझे यह भी समझाया कि हम तकनीक का उपयोग कुछ नए, मानवीय क्षेत्रों में कर सकते हैं।
प्रश्न: यदि आपको सैम के हटाए जाने से लेकर आपके निकल जाने, कर्मचारियों की सामूहिक याचिका, छुट्टी लेकर वापस आने तक की सभी बातों को एक पृष्ठ पर सारांशित करना हो, तो आप क्या लिखेंगे?
ग्रेग: मुझे लगता है कि मैंने सीखा है कि जिस चीज़ के लिए लड़ना वाजिब हो, उसके लिए लगातार प्रयास करते रहो।
अगर आपके पास एक महत्वपूर्ण मिशन है, तो आप उतार-चढ़ाव में टिके रहने का तथ्य ही महत्वपूर्ण है। ऐसे क्षण होंगे जब "सब कुछ खत्म हो गया" लगेगा, और ऐसे क्षण भी होंगे जब "हम वापस आ गए"।
आप इन क्षणों को अपने रास्ते से भटकने नहीं दें सकते, इस समय आपको अपनी व्यक्तिगत लचीलापन को विकसित करना होगा। क्योंकि अगर आप नेता हैं, तो लोग आपसे स्थिरता, समर्थन और आगे बढ़ने की दिशा की उम्मीद करेंगे।
मैं जो विकसित करने की कोशिश कर रहा हूँ, वह है कि हम जो कर रहे हैं, उसके विस्तार से समझ हो, हर चुनाव का अर्थ समझ हो, और साथ ही दृढ़ता से कार्य करने की क्षमता हो।
कभी-कभी, मैं OpenAI को अनिश्चितता के दृष्टिकोण से देखता हूँ, मुझे लगता है कि मुझे यह नहीं पता कि सही उत्तर क्या है, इस तकनीक को बनाने का सही तरीका क्या है, या इन कठिन प्रश्नों का उत्तर कैसे दें।
लेकिन यहाँ बहुत सारे बहुत बुद्धिमान, मजबूत राय रखने वाले लोग हैं। इसलिए मैं इन सभी रायों को समझने और उन्हें एक साथ जोड़ने का प्रयास करता हूँ। कभी-कभी यह सही तरीका होता है। लेकिन कभी-कभी आप पाते हैं कि ये राय आपस में विरोधी हैं और एक साथ सच नहीं हो सकतीं।
कभी-कभी आपको चयन करना पड़ता है, आप जानते हैं कि इसका अर्थ है कि कुछ लोग असंतुष्ट होंगे, कुछ इस्तीफा दे देंगे, और कुछ को लगेगा कि उनकी उपेक्षा की गई है।
मैं जो करने की कोशिश करता हूँ, वह है अधिक मजबूत आत्म-चेतना और जब मैं किसी बात से यकीन करूँ तो कार्रवाई करने की आवश्यकता का एहसास।
OpenAI की यात्रा को याद करते हुए, मुझे लगता है कि कुछ चीजों में, मैं चाहता हूँ कि हमने तब अलग तरह से काम किया होता।
आम तौर पर, हम किसी चीज़ पर देरी करते हैं, हम पहले से ही जानते हैं कि कोई व्यक्ति किसी भूमिका के लिए उपयुक्त नहीं है, हम महसूस करते हैं कि कोई तकनीकी दिशा सही नहीं है, हम सोचते हैं कि कोई प्रोजेक्ट चलाने का तरीका काम नहीं करेगा, लेकिन हम बहुत लंबे समय तक इंतजार करते रहते हैं।
यह मेरी सीख है, और यह एक ऐसा पहलू है जिस पर मैं रोजाना OpenAI, Stripe और उससे भी पहले के कॉलेज के प्रोजेक्ट्स पर विचार करके खुद को बेहतर बनाने की कोशिश करता हूँ।
मुझे लगता है कि मेरा काम करने का तरीका यह है कि मैं दैनिक गतिविधियों, व्यक्तिगत योगदान, सॉफ्टवेयर और समस्याओं के बारे में सोचने से बहुत प्यार करता हूँ, लेकिन मैं इन चीजों को करने के वातावरण के बारे में भी बहुत चिंतित हूँ।
वास्तव में, मैं उस “प्रथम श्रेणी की संतुष्टि” को छोड़ने को तैयार हूँ, जिसमें त्वरित संतुष्टि मिलती है, जैसे आप वर्तमान में कुछ बना रहे हैं, और बजाय इसके “द्वितीय श्रेणी की संतुष्टि” की ओर बढ़ना चाहता हूँ, जिसमें वर्तमान में कष्ट होता है लेकिन दीर्घकालिक मूल्य होता है।
आप वातावरण बनाकर दूसरों को कठिन कार्य करने और महान उपलब्धियाँ प्राप्त करने की अनुमति देते हैं। इसलिए एक ऐसा वातावरण बनाना मेरी स्वाभाविक प्रवृत्ति है, जो हमेशा सबसे आसान बात नहीं होती। आपको वास्तव में भारी व्यक्तिगत दुख सहने के लिए तैयार होना पड़ता है।
इल्या हमेशा कहते हैं, "आपको दर्द झेलना होगा", अगर आप दर्द नहीं झेलते, तो आप मूल्य नहीं बना रहे हैं। मुझे लगता है कि इसमें गहरा अर्थ है।
इल्या के विचार के बारे में, मुझे यह दिलचस्प लगता है कि उसकी बातचीत का एक अनोखा अंदाज़ है, जिसमें वह चुने गए शब्द हमेशा गहरी प्रेरणा से भरे होते हैं।
यह “कष्ट का” दृश्य हमारे द्वारा OpenAI की पूरी यात्रा के दौरान सोचा जाता रहा है। शुरुआत से ही हमारे पास कई अनिश्चितताएँ थीं, हर चीज बेहद कठिन और बेहद अनिश्चित थी।
बहुत से लोग समस्याओं को गलीचे के नीचे छिपाने की आदत रखते हैं और अंधेरे में आगे बढ़ने का दावा करते हैं। मुझे लगता है कि यह सिलिकॉन वैली की संस्कृति का एक नकारात्मक पहलू है, कम से कम सिलिकॉन वैली की स्टीरियोटाइप है, लेकिन मुझे लगता है कि यह AI क्षेत्र में काम नहीं करता, OpenAI में काम नहीं करता, और हमने कभी ऐसा संचालन नहीं किया है।
हमारा कार्य करने का तरीका हमेशा से यही रहा है कि कठोर सच्चाइयों का सामना करें और वास्तविकता की प्रकृति को समझें। मुझे लगता है कि इससे हम समस्याओं को अलग तरह से सोचने में सक्षम होते हैं, और प्रारंभिक स्तर पर कुछ ऐसे पेपर लिखने से संतुष्ट नहीं होते जिन्हें उद्धृत किया जा सके; यह आधार है, लेकिन इससे बहुत अधिक आवश्यकता है।
फिर आप बड़े प्रश्नों पर विचार करना शुरू कर देते हैं, AGI बनाने के लिए क्या आवश्यक है? यह अच्छा नहीं है। क्योंकि आप जान जाते हैं कि कोई पहले से तैयार रास्ता नहीं है।
आपको फंड की आवश्यकता है, लेकिन आपके पास फंड जुटाने का कोई तरीका नहीं है। आप प्रयास कर रहे हैं, हम अत्यधिक प्रयास कर रहे हैं। शायद आप 1 अरब या 5 अरब डॉलर जुटा सकते हैं, लेकिन 10 अरब डॉलर, बहुत कठिन है।
लेकिन वर्तमान संसाधनों के आधार पर ही हमने अच्छी उपलब्धि प्राप्त की है; यदि हम चुनौतियों का सामना नहीं करते और हम जो करना चाहते हैं, उसकी सच्चाई को समझने के लिए प्रयास नहीं करते, तो वास्तव में कोई अन्य तरीका नहीं है।
प्रश्न: आपको कौन सा सबक बार-बार सीखना पड़ा?
ग्रेग: कठिन निर्णय लें, कठिन बातचीत करें।
आपको क्या सबसे अच्छी सलाह मिली है?
ग्रेग: मैंने इसे हार्वर्ड की नवप्रवेशित लेखन कक्षा में सीखा। स्पष्टता और संचार के लिए लगातार टेक्सट को काटते रहें।
आप जानकारी कैसे छाँटते हैं?
ग्रेग: बहुत पढ़ें, सक्रिय रूप से वर्गीकृत करें।
प्रश्न: आपका आदर्श कौन है, और क्यों?
ग्रेग: गॉस और डेकार्ट। वे अत्यंत विचारशील, अपने समय से बहुत आगे के लोग थे, और दूरदर्शी थे, जिन्होंने वास्तविक क्रांति लाई और हमारे विचार और जीवनशैली को बदल दिया।
प्रश्न: ग्रेग ब्रॉकमैन के बारे में दुनिया क्या गलत समझती है?
ग्रेग: मुझे लगता है कि लोग नहीं जानते कि मैं इस मिशन के प्रति कितना समर्पित हूँ, और यह समर्पण मुझे व्यक्तिगत रूप से कई तरह से बहुत दर्द देता है। लेकिन मैं इस तकनीक पर विश्वास करता हूँ कि यह लोगों को सशक्त बनाने और हर किसी को लाभ पहुँचाने में मदद कर सकती है। मैं इसे साकार करने में मदद करना बहुत चाहता हूँ।
AI उद्योग का मूल निर्णय
आप गैर-तकनीकी लोगों को एआई के बारे में क्या समझाना चाहते हैं?
ग्रेग: यह उनके व्यक्तिगत जीवन में एक सकारात्मक शक्ति बन जाएगी, जिससे वे लाभान्वित होंगे, और यह विज्ञान और चिकित्सा को आगे बढ़ाएगा और हर एक व्यक्ति को प्रभावित करेगा।
Q: ओपनएआई क्यों मॉडल नामकरण में इतना खराब है?
ग्रेग: मैं इसके बारे में आपको नहीं बता सकता। (doge)
क्या हम उस बिंदु के करीब पहुंच गए हैं जहां AI AI के विकास को घातीय रूप से तेज कर देगा?
ग्रेग: मुझे लगता है कि हम एआई को इसके अपने विकास प्रक्रिया में लागू करने के चरण में हैं, और यह और तेज़ होता जा रहा है।
यह वास्तव में ChatGPT के बाद से हो रहा है। हमने ChatGPT का उपयोग करके विकास प्रक्रिया को 10% या 20% तेज कर दिया है। अब हमारे पास वे अद्भुत कोडिंग उपकरण हैं, जो सॉफ्टवेयर इंजीनियरिंग के पूरा किए जाने के तरीके को वास्तव में क्रांतिकारी बना रहे हैं।
हम जो अधिकांश कार्य मॉडल उत्पादन में कर रहे हैं, उसकी सीमा सॉफ्टवेयर है। हम जल्द ही अगले चरण में प्रवेश करने वाले हैं, जहां AI अपने शोध विचारों को भी प्रस्तावित करेगा और उनकी परीक्षा करेगा, प्रयोग करेगा। इसलिए मुझे लगता है कि हम जो उत्पादित कर रहे हैं, उसके कारण आवर्तन और नवीनीकरण की गति जारी रहेगी।
प्रश्न: अब तक कितने प्रतिशत कोड को AI द्वारा लिखा गया है?
ग्रेग: यह कहना मुश्किल है कि कितना कोड AI द्वारा नहीं लिखा गया है। यह अनुपात शून्य की ओर बढ़ रहा है।
वर्तमान में, सही संदर्भ और संरचना के साथ, AI कोड के वास्तविक लिखने में मानव से कहीं अधिक उत्कृष्ट है। कोड संरचना के हिस्से के लिए, मानव विशेषज्ञ अभी भी कहीं अधिक कुशल हैं, लेकिन कोड का वास्तविक लिखना लगभग पूरी तरह से AI का काम है।
क्या AI ने आपको कोई ऐसी नवीन विचार दिए हैं जिनकी आपने कल्पना नहीं की थी?
ग्रेग: हम इस लक्ष्य के करीब पहुँच रहे हैं। उदाहरण के लिए, चिप डिजाइन में। पिछले वर्ष हमने अपने अपने चिप डिजाइन में तकनीक को बेहतर ढंग से अनुकूलित करने की कोशिश की, ताकि सर्किट के उपयोग के क्षेत्र को कम किया जा सके।
हमने पाया कि मॉडल द्वारा उत्पन्न अनुकूलन योजनाएँ वास्तव में हमारी सूची पर हैं, इसलिए यह कोई ऐसा नया चीज़ नहीं प्रस्तावित कर रहा है जो मनुष्यों ने कभी सोचा नहीं है, लेकिन यह हमारे पास मूल रूप से पूरा करने का समय नहीं था, उस तरह से तेज़ी से इसे पूरा करता है।
उदाहरण के लिए, हाल ही में क्वांटम भौतिकी में, हमने एक विशिष्ट भौतिक समस्या को हल किया, जिसका परिणाम विद्वानों की अपेक्षा के विपरीत था और हमें एक सुंदर और सरल सूत्र प्राप्त हुआ।
इसलिए इन मॉडल्स से नए विचार प्राप्त करना पूरी तरह संभव है। आगे हम इसे अधिक कठिन क्षेत्रों में लागू करेंगे, या अधिक वास्तविक दुनिया के संदर्भ की आवश्यकता होगी। यह सिर्फ शुरुआत है। लेकिन हमारे पास इसे लागू करने का रोडमैप है, और हमारे पास अभी भी बहुत काम करना है।
प्रश्न: यदि मॉडल रिवार्ड-आधारित शिक्षा पर आधारित है, तो क्या आपका मानना है कि वे केवल उन्हीं बातों को कहने के लिए विकसित हो जाएंगे जो हम सुनना चाहते हैं?
ग्रेग: हमने वास्तव में एक ऐसा मॉडल ट्रेन किया है जो उपयोगकर्ता की पसंद के अनुसार अनुकूलित हो जाए।
हमने देखा कि पिछले साल के किसी समय, मॉडल वास्तव में आपको वही कहने लगा जो आप सुनना चाहते थे, और हमने इसके लिए बदलाव किया, क्योंकि हम चाहते हैं कि मॉडल वास्तव में आपके लक्ष्यों, आपके दीर्घकालिक लक्ष्यों को प्राप्त करने में आपकी मदद करे।
शायद अभी सहमति सुनकर अच्छा लग रहा हो, लेकिन वही आपको वास्तव में चाहिए नहीं। शायद कुछ लोगों को पसंद है, लेकिन यह ज्यादातर लोगों को वास्तव में चाहिए नहीं।
इसलिए, हमने वास्तव में एक बड़ी तकनीकी प्रगति की है ताकि हमारे AI प्रशिक्षण के कारण इसे रिवॉर्ड ब्रेकिंग कहा जाने वाला मुद्दा न हो। हम वास्तव में यह सुनिश्चित करना चाहते हैं कि लक्ष्य के बारे में एक अच्छा संकेत हो, और केवल छोटे समय के, जो आपको जल्दी से संतुष्ट कर दें।
मेरे लिए, यह वह महत्वपूर्ण हिस्सा हो सकता है जिसे व्यक्तिगत AI और व्यक्तिगत AGI हमें ले जाएगा, यह सुनिश्चित करना कि यह केवल उन चीजों के बारे में न हो जो अभी अच्छी लग रही हैं, बल्कि वास्तव में आपकी दीर्घकालिक कल्याण, दीर्घकालिक लक्ष्यों और आपके वास्तविक इच्छाओं के साथ समन्वय के बारे में हो।
I think this is what truly empowers people.
प्रश्न: वर्तमान प्रवृत्ति प्रीव्यू मॉडल जारी करने की लगती है, क्या आपका मानना है कि यह हमारी गणना क्षमता के प्रतिबंध के कारण है?
ग्रेग: सामान्य तौर पर, हम एक कैलकुलेशन ड्राइवन दुनिया की ओर बढ़ रहे हैं।
अब यह केवल एक प्रश्न का त्वरित उत्तर देने तक सीमित नहीं है, यह वास्तव में गहराई से जाने लगा है, विभिन्न डेटा स्रोतों को एकीकृत करने, उद्यम ज्ञान भंडार की खोज करने और मानव क्षमता से अधिक शक्तिशाली सॉफ्टवेयर लिखने के लिए बहुत सारे टोकन खर्च करता है।
यह सब मूल रूप से कैलकुलेशन पावर से चलता है, और कैलकुलेशन पावर बहुत कम है। अगर दुनिया का हर व्यक्ति के पास एक GPU हो, तो यह 8 अरब GPU होंगे, लेकिन हम वर्तमान में इस स्तर तक पहुंचने से बहुत दूर हैं। अभी हजारों या लाखों GPU को ही बड़ा माना जाता है।
इसलिए, प्रशिक्षण के मामले में, हम अपने द्वारा देखी गई मांग के लिए बाहर बनाए गए कैपेसिटी को प्राथमिकता देते हैं। हम इस मिशन पर बहुत ध्यान केंद्रित करेंगे कि मॉडल को हर किसी तक पहुंचाया जाए और यह सर्वव्यापी रूप से उपलब्ध हो।
प्रश्न: आपको डेटा सेंटर में बड़ी मात्रा में समय और धन लगाने के लिए मजाक उड़ाया गया था। अब आपको इसके बारे में क्या लगता है?
ग्रेग: मुझे लगता है कि इससे हमें लाभ मिलेगा। यह न केवल व्यापार के लिए फायदेमंद होगा, बल्कि प्रौद्योगिकी को हर किसी तक पहुंचाने में भी सचमुच मदद करेगा।
भविष्य में कैलकुलेशन पावर को प्राथमिकता दी जाएगी महत्वपूर्ण मिशनों की ओर, जैसे कैंसर पर काबू पाना, इस साल ही इसे हासिल किया जा सकता है।
वास्तव में, कैलकुलेशन शक्ति का आवंटन सामाजिक भविष्य का केंद्रीय मुद्दा है, क्योंकि केवल इतनी ही कैलकुलेशन शक्ति उपलब्ध है, इसलिए प्राथमिकता निर्धारित करना आवश्यक है, लेकिन हम यह मानते हैं कि प्रत्येक व्यक्ति को कैलकुलेशन शक्ति प्राप्त होनी चाहिए।
इसीलिए हमारे पास ChatGPT का फ्री वर्जन है, हम यह सुनिश्चित करने के लिए प्रयास करते हैं कि लोग इस तकनीक का उपयोग कर सकें।
प्रश्न: ओपनएआई के भीतर, आप उपभोक्ता स्तरीय और व्यावसायिक स्तरीय व्यवसाय के बीच संतुलन को कैसे देखते हैं?
ग्रेग: मैं हाल ही में जिस पर बहुत सोच रहा हूँ, वह है फोकस।
क्योंकि यह क्षेत्र अवसरों का प्रतीक है, आप AI को किसी भी समस्या पर लागू कर सकते हैं, आप जो कुछ भी बनाना चाहते हैं, सब कुछ संभव है। लेकिन हमारी वर्तमान समस्या अभी भी कम्प्यूटिंग पावर की सीमितता है।
इसलिए मुझे लगता है कि OpenAI के अगले चरण में, उद्यमिक व्यवसाय स्पष्ट रूप से महत्वपूर्ण है, क्योंकि अर्थव्यवस्था हमारे सामने कंप्यूटेशनल अर्थव्यवस्था में बदल रही है। सॉफ्टवेयर इंजीनियरिंग पहले से ही ऐसी है, और कंप्यूटर का उपयोग करने वाला हर क्षेत्र ऐसा होगा।
इसलिए हमें वहाँ लोगों को इन मॉडल्स को डिप्लॉय करने में मदद करनी होगी, इनका उपयोग कैसे करें और इनसे अधिकतम लाभ कैसे प्राप्त करें, यह समझना होगा।
उद्यम और उपभोक्ता स्तर के बीच की सीमा भी धुंधली हो जाएगी, क्योंकि उद्यम शुरू करना पिछले किसी भी समय की तुलना में आसान हो जाएगा। हमने इसे पहले ही देखा है।
क्या आपको लगता है कि हमारे पास अंतरिक्ष डेटा केंद्र होंगे?
ग्रेग: मुझे लगता है कि हमारे पास सभी जगह डेटा केंद्र होंगे, लेकिन अभी अंतरिक्ष डेटा केंद्रों के लिए कई तकनीकी समस्याएँ हैं।
प्रश्न: आइटरेटिव डिप्लॉयमेंट क्या है? आप इसे क्यों करते हैं?
ग्रेग: इटरेटिव डिप्लॉयमेंट ओपनएआई के लिए एक केंद्रीय स्तंभ है जो यह सुनिश्चित करता है कि यह तकनीक मानवता को लाभ पहुंचाए और इसके मिशन को पूरा करे।
गुप्त रूप से विकसित करके एक बार में लॉन्च करने का जोखिम बहुत अधिक होता है, क्योंकि आप वास्तविक दुनिया की समस्याओं की पूर्वानुमान लगा नहीं सकते। लेकिन आइटरेटिव डिप्लॉयमेंट हमें व्यावहारिक रूप से जोखिम पहचानने और त्वरित सुधार करने में सक्षम बनाता है। उदाहरण के लिए, GPT-3 के लॉन्च के बाद, हमने अपनी सबसे बड़ी दुरुपयोग के रूप में मेडिकल स्पैम संदेशों की कल्पना नहीं की थी, लेकिन वास्तविक प्रयोग ही हमें समय पर प्रतिक्रिया देने में सक्षम बनाता है।
इसलिए इटरेटिव डिप्लॉयमेंट की अवधारणा यह है कि हम इस तकनीक के मध्यवर्ती संस्करण को लॉन्च करेंगे।
यह अंधेरे में लागू करने का बहाना नहीं है; आपको अभी भी हर चरण पर सोचना होगा कि हमारे पास सभी संभावित दुरुपयोग के तरीकों के बारे में क्या बेस्ट जजमेंट है, इसके नुकसान क्या हैं, जोखिम क्या हैं, और फिर उन्हें कम करना है। लेकिन आप वास्तविकता को भी देख सकते हैं, देख सकते हैं कि क्या आपका जजमेंट सही था, वास्तविकता से सीख सकते हैं, और अगली बार बेहतर कर सकते हैं।
OpenAI के इतिहास में, हमने कभी आशा की थी कि पहले किसी ने बदलाव लाने वाली तकनीक को लागू किया होगा, शायद वे हमें जवाब दे सकते थे। लेकिन चीजें कभी इतनी सरल नहीं रहीं।
उनके पास वास्तव में बुद्धिमत्ता और दृष्टिकोण थे, और हमने उन्हें अपना लिया। लेकिन हमें एहसास हुआ कि हम ही इस तकनीक के सबसे करीब हैं, और चूंकि हमने इसे बनाया है, हम इसे सही तरीके से आकार देने को समझ सकते हैं।
प्रश्न: यदि एक अग्रणी मॉडल सुरक्षा को प्राथमिकता देता है, जबकि दूसरा ऐसा नहीं करता है, तो आप इस अंतर को कैसे देखते हैं?
ग्रेग: मुझे लगता है कि हमने पाया है कि सुरक्षा वास्तव में एक मूलभूत उत्पाद विशेषता है, और कोई भी एक ऐसे मॉडल को नहीं चाहता जो अपने साथ संगत न हो।
इसलिए हमने सुरक्षा के क्षेत्र में निवेश किया है, जो लोगों के विचार से कहीं अधिक हो सकता है और शायद किसी भी अन्य प्रयोगशाला से अधिक।
मैं हमेशा से मानता रहा हूँ कि जो लोग इस तकनीक का निर्माण करते हैं और सफल उत्पाद रखते हैं, वे अगर सुरक्षा में पर्याप्त निवेश नहीं करते, तो यह अस्थायी है। आपको अपने व्यवसाय और आप जो कुछ बना रहे हैं, उसके लिए दीर्घकालिक दृष्टिकोण अपनाना होगा, जिसमें मॉडल को कैसे प्रशिक्षित करें और कैसे प्रतिक्रिया चक्र प्राप्त करें, यह शामिल है।
मैं बस यह कहना चाहता हूँ कि हम सुरक्षा को अपने मिशन का हिस्सा बनाए रखने के लिए समर्पित हैं, जो हमारे उत्पादों और दुनिया में प्रतिबिंबित होता है।
प्रश्न: जब मैं लोगों को बताता हूँ कि मैं इस साक्षात्कार के लिए जा रहा हूँ, तो एक सामान्य प्रतिक्रिया यह होती है कि वे अपनी नौकरी के बारे में चिंतित होते हैं और अनिश्चित महसूस करते हैं। आप उन्हें क्या कहेंगे?
ग्रेग: मुझे वास्तव में लगता है कि इस तकनीक का विकास कैसे होगा, यह अनिश्चित है। इसका विकास आश्चर्यजनक है, और हमारा वर्तमान AI, हमारा वर्तमान दुनिया, वैज्ञानिक कल्पना की कहानियों में पूर्वानुमानित नहीं है। कुछ ऐसे निष्कर्ष जो अनिवार्य लगते हैं, जब वे वास्तविक होते हैं, तो वे पूरी तरह से अलग दिखते हैं।
मुझे विश्वास है कि लोग हमेशा अपने खोने वाले चीज़ों को देखने में सबसे आसान होते हैं। परिवर्तन आ रहा है, और यह अस्वीकार्य नहीं है, लेकिन आपको क्या मिलेगा, इसकी भविष्यवाणी करना अधिक कठिन है।
उदाहरण के लिए, 1950 के व्यक्ति कैसे यूबर को समझते थे, आपको पहले कंप्यूटर, मोबाइल, GPS के बारे में सोचना होगा। वर्तमान में इसमें काफी तकनीक शामिल है, लेकिन यह वास्तव में हुआ। और हजारों, लाखों अन्य मामले एक साथ हो रहे हैं।
इसलिए मेरा AI के बारे में दृष्टिकोण है कि यह सशक्तिकरण के बारे में है, मानवीय क्रियाशीलता के बारे में है। इसका वास्तव में अर्थ है कि कुछ संस्थाएँ, कार्य, और वे चीजें जिन पर हम निर्भर करने की उम्मीद करते थे, शायद हमारी इच्छा के अनुसार इतनी स्थिर नहीं रहेंगी।
इसलिए यह लोगों को प्रभावित करता है, लेकिन गहराई से पूछने लायक सवाल यह है: आपको क्या मिला? आप इससे कैसे लाभान्वित हुए?
अब आप एक सृजनकर्ता बन सकते हैं, आप कुछ भी बना सकते हैं, जो भी आप कल्पना कर सकते हैं, वह सच हो सकता है।
प्रश्न: सृजनात्मकता कैसे विकसित करें?
ग्रेग: इस तकनीक में वास्तव में गहराई से उतरें।
मैंने देखा है कि बहुत सी पीढ़ियों की तकनीक के बीच से अधिकतम लाभ उठाने वाले वे लोग हैं जो पिछली पीढ़ी की तकनीक में ही निवेश कर चुके थे। और अब उन्हें आजमाने की सीमा पहले कभी नहीं थी।
इसलिए मुझे लगता है कि नए अवसर उत्पन्न होंगे।
मुझे लगता है कि दुनिया को वास्तव में इस अनिश्चितता के समय में आगामी किसी भी परिवर्तन में हर व्यक्ति का समर्थन करने का तरीका सोचना चाहिए। क्योंकि अर्थव्यवस्था कंप्यूटेशनल इकोनॉमी में बदल जाएगी, लेकिन हर व्यक्ति के पास योगदान देने का एक स्थान होगा।
प्रश्न: आज युवा लोग कहाँ निवेश करें? यदि आप हाई स्कूल या कॉलेज में हैं या अभी नौकरी शुरू की है, तो आपको कौन से कौशल भविष्य में अधिक मूल्यवान लगते हैं?
ग्रेग: मुझे वास्तव में लगता है कि इस तकनीक को गहराई से समझना एक महत्वपूर्ण कौशल बन जाएगा, जिससे आप AI से अधिकतम मूल्य प्राप्त करने का तरीका समझ सकें।
क्योंकि हम सभी एक ऐसी दुनिया की ओर बढ़ रहे हैं, जहाँ हम एजेंटों के प्रबंधक बनेंगे, शायद जल्द ही स्वायत्त AI कंपनियों के सीईओ।
जब तक आपके पास टोकन है और इसे चलाने की कैलकुलेशन क्षमता है, तब तक आप इस कैलकुलेशन क्षमता को किसी भी समस्या पर निर्देशित कर सकते हैं, और मानवता को हल करने के लिए असीमित समस्याएँ हैं।
इसलिए मुझे लगता है कि जितना अधिक लोग इस तकनीक में गहराई से उतरेंगे, आगे आने वाली चीजों का उपयोग कैसे करें, इन तकनीकों को नए तरीकों से कैसे जोड़ें, हमारे एजेंट्स के साथ कैसे बातचीत करें, उन्हें वास्तव में प्रबंधित करें, और सोचें “मुझे क्या चाहिए? मेरी स्वयं की चेतना क्या है? मेरा उद्देश्य क्या है? मैं दुनिया में क्या देखना चाहता हूँ?”, इन्हें प्राप्त करना पहले से कहीं अधिक आसान हो जाएगा।
I think the upside potential of that world is almost unimaginable given what we've gained.
प्रश्न: यह सबसे सकारात्मक भविष्य का दृष्टिकोण है, आप कल्पना कर सकते हैं कि सबसे नकारात्मक भविष्य क्या हो सकता है?
ग्रेग: तकनीक के विकास के बारे में एक बहुत दिलचस्प बात यह है कि यह वास्तव में हमें मशीनों के अनुकूल बनाने के लिए खुद को मोड़ने के लिए मजबूर कर रही है।
सोचिए कि कितने लोग इस बॉक्स के सामने काम करते हैं, कीबोर्ड पर टाइप करते हैं, और कार्पल टनल सिंड्रोम और मुड़ी हुई कंधों के साथ जीते हैं। लेकिन यह वह तरीका नहीं है जिसकी हम इच्छा करते हैं; हम उस दुनिया की ओर बढ़ रहे हैं, जहाँ आप केवल कंप्यूटर का उपयोग करके काम नहीं करते, बल्कि आपका कंप्यूटर आपके लिए काम करता है।
इससे अवसर भी आते हैं और जोखिम भी। इसलिए हमें इन जोखिमों को कम करने के तरीके ढूंढने होंगे।
अंततः, एक मूलभूत प्रश्न है: अगर आपके पास मशीनें हैं जो लोगों को उनके लक्ष्य प्राप्त करने में मदद करती हैं, तो वे आपके इच्छित कार्य कर रही हैं। लेकिन कभी-कभी लोगों के लक्ष्य टकराते हैं, आप इसका समाधान कैसे करते हैं? आप कैसे तय करते हैं कि AI आपकी किन चीजों में मदद करेगी और किनमें नहीं? यह समझने का प्रयास करना कि यह समाज में कैसे फिट होता है? यह कैसे सुनिश्चित करें कि लाभ केवल एक कंपनी या एक समूह को ही न मिले, बल्कि हर किसी को वास्तव में सशक्त बनाए?
हमें स्वीकार करना होगा कि यहाँ अभी भी कई तरह की त्रुटियाँ या जोखिम हैं, जिन्हें हमें हल करना होगा।
प्रश्न: अंतिम प्रश्न, आपके लिए सफलता क्या है?
ग्रेग: एजीआई को मानवता के सभी लोगों के लाभ के लिए सुनिश्चित करने के लिए ओपनएआई के मिशन को पूरा करें।
संदर्भ लिंक: [1] https://x.com/shaneparrish/status/2046900710055297072 [2] https://youtu.be/6JoUcQ1qmAc
यह लेख वेइचेन ग्रुप "क्वांटम बिट" से आया है, लेखक: फ्रंटियर टेक्नोलॉजी पर ध्यान दें