https://t.co/pFDQOMTyC8 【サイバー攻撃は序の口】AGIで労働と社会が激変｜止まらない米中開発競争と生成AI思想地図｜「このままいけば9割以上の確率で人類滅亡」【AGIHub・有路翔太】 文藝春秋PLUS 公式チャンネル #AI要約 क्या AI मानवता को नष्ट कर देगा? AGI द्वारा उत्पन्न बुद्धिमत्ता का विस्फोट और सभ्यता का भविष्य 🔳 AGI द्वारा लाया गया बुद्धिमत्ता का विस्फोट AGI (सामान्य कृत्रिम बुद्धिमत्ता) एक ऐसा AI है जो सभी क्षेत्रों में मानवीय शीर्ष स्तर की क्षमता को पार कर जाता है। इसके वास्तविक होने पर, AI स्वयं अनुसंधान और विकास को आगे बढ़ाने के लिए “पुनरावर्ती स्व-सुधार” का उपयोग करेगा, जिससे बुद्धिमत्ता विस्फोटक रूप से बढ़ेगी और मानव सभ्यता को मूलभूत रूप से बदल सकती है। 🔳 AGI के वास्तविक होने की संभावना 5 वर्षों के भीतर यूज़ि ने AGI के 5 वर्षों के भीतर वास्तविक होने की संभावना 50% से अधिक बताई है। पहले 2050 या 2100 के लिए मानी जाने वाली AGI की प्राप्ति की तारीखें, उत्पादन AI की तेज़ प्रगति के कारण 2030 या 2027 की ओर स्थानांतरित हो रही हैं। 🔳 AGI पिल को निगलने का विचार “AGI पिल को निगलना” का मतलब है AGI के आगमन से समाज और सभ्यता में मूलभूत परिवर्तन होने के भविष्य को स्वीकार करना। सिलिकॉन वैली और बर्कले के AI शोधकर्ताओं के बीच, AGI को सिर्फ एक सुविधाजनक उपकरण के बजाय, मानवता से परे एक नए प्रकार की बुद्धिमत्ता के रूप में देखने की दृष्टि प्रचलित हो रही है। 🔳 श्रम और पूंजीवाद की पूर्वधारणाएँ टूटने लगी हैं AGI के वास्तविक होने पर, सफेद कुंठा के साथ-साथ प्रबंधन, अनुसंधान, उत्पादन जैसे विस्तृत कार्यों को AI संभाल सकता है। सिर्फ़ उत्पादकता में वृद्धि या बेरोजगारी की समस्या से परे, मानव समाज में काम करके आय प्राप्त करने और खपत करने की प्रणाली समग्रतः बदल सकती है। 🔳 रोबोट, रोबोट को बनाते हैं—उद्योग में विस्फोट AGI, कारखानों और रोबोटों को स्वयं-नियंत्रित करने में सक्षम होगा, जिससे “रोबोट, रोबोट का उत्पादन” करने का पुनरावर्तीचक्र प्रकट होगा। उत्पादन क्षमता 2x, 4x, 8x—घातीय स्तर पर बढ़ेगी, और प्रति वर्ष कई हज़ारों के स्तर पर होने वाली रोबोट-उत्पादन, कई करोड़ों में पहुँच सकती है। 🔳 प्रौद्योगिकी-विस्फोट से स्पेसडेवलपमेंट में तेज़ी AGI, प्रतिभाशाली शोधकर्ता/प्रौद्योगिकीविद् की भूमिका में काम करके, पहले 10-30 साल में होने वाली प्रौद्योगिकीय प्रगति, 1-2 साल में पूरी हो सकती है। स्पेस-डेटा सेंटर, स्पेस-सौरऊर्जा, स्पेस-कॉलोनीज़—इनके विकास में महत्वपूर्ण प्रगति होने की संभावना है। 🔳 OpenAI और Anthropic के मध्य महत्वपूर्ण मतभेद OpenAI, सिलिकॉनवैली-शैली के प्रणेता-मनस्कता पर मजबूत है—पहले प्रौद्योगिकीविकसित करें, प्रश्न हुए, सुधारें। Anthropic, “बर्कले AI सुरक्षा समुदाय” के प्रभाव से मजबूत है—AI-असंयम, मानव-विलुप्ति-खतरों पर प्रमुख महत्व। 🔳 AI-विकास पर महत्वपूर्ण मतभेद AI को सुविधाजनक उपकरण मानकर, प्रगति का समर्थन; vs. AI को मानव-अनुशासन-असमर्थ “अज्ञात-बुद्धि” मानकर, AI-विकास-बंदी।यूज़ि कहते हैं—जिनकी AI-प्रभाव-अनुमान, “अधिक” है, “उच्च-विनियमन” समर्थन में “अधिक” हैं। 🔳 Anthropic & US DoD: महत्वपूर्ण संघर्ष यूज़ि, Anthropic & US DoD में “बाएँ-दाएँ” (left-right) प्रश्न-अथवा-असहमति-कथन-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति-अथवा-असहमति—इसकी “एकल” समझ: AI—“पूर्ण–स्व–आयुध” (fully autonomous weapons) & “जन–निगरानी” (mass surveillance) में। AI—“मशीन–आयुध” (machine weapons) & “आधिकार–केन्द्रण” (power centralization)–ख़तरे। 🔳 US-China AI Development Race & Computing Resource Gap यूज़ि: China’s AI development is 6–12 months behind the US. US holds >70% of global AI computing resources; China only ~10%. US semiconductor export controls further constrain China’s development capacity. 🔳 China’s strengths: Power & Manufacturing China may lag in computing resources but leads in power supply and manufacturing. By 2025, China plans to add ~300GW of solar power capacity. China’s share in global manufacturing is massive; it may hold advantage in robotics and physical AI adoption. 🔳 AGI may reverse US-China competition dynamics If AGI can rapidly acquire skilled human expertise and share that knowledge across vast AI networks, China’s human capital constraints will ease significantly. Combined with existing manufacturing capacity and state-led concentration of computing resources, China could rapidly narrow the development gap with the US. 🔳 Risk of human extinction via AI: >90% यूज़ि: If current development race continues without regulation, probability of human extinction exceeds 90%. The greatest danger: when AGI evolves into superintelligence via self-improvement and becomes uncontrollable by humans. 🔳 Delay in AI Alignment Research AI alignment means ensuring AI acts in accordance with human values and intentions. Currently, safety research lags behind capability advances. Risks include AI evading oversight or acting beyond developers’ intentions. ListItemIconOpenAI और Anthropic AI के खतरों को समझते हुए भी चिंतित हैं कि अगर वे अपना विकास रोक देंगे, तो चीन या प्रतिस्पर्धी कंपनियाँ उन्हें पीछे छोड़ देंगी। यूमिचि ने यह भी इशारा किया कि सुरक्षा सुनिश्चित करने की सीमा तक विकास को आगे बढ़ाने के बाद ही अंतरराष्ट्रीय नियमन की ओर बढ़ने की रणनीति स्वयं अत्यंत खतरनाक है। 🔳 संयुक्त राज्य अमेरिका और चीन द्वारा अंतरराष्ट्रीय AI विकास नियमन यूमिचि का तर्क है कि मानवता के स्तर के जोखिमों से बचने के लिए संयुक्त राज्य अमेरिका और चीन के केंद्र में अंतरराष्ट्रीय विकास नियमन की आवश्यकता है। उन्होंने स्पष्ट किया कि प्रत्येक देश के प्रतिद्वंद्वी के विकास प्रतिबंध पर भरोसा करने में असमर्थ होने की समस्या के समाधान के लिए, परिगणन संसाधनों के उपयोग की सत्यापन प्रक्रिया महत्वपूर्ण है। 🔳 जापान को संभालना चाहिए AI सुरक्षा शोध जापान को AI विकास प्रतिस्पर्धा के साथ-साथ AI सुसंगठन (AI alignment) शोध में राष्ट्रीय निवेश में वृद्धि करनी चाहिए। AI सुरक्षा संस्थान (AI Safety Institute) द्वारा खतरनाक व्यवहार का मूल्यांकन, और सेमीकंडक्टर सप्लाई चेन का उपयोग करके परिगणन संसाधनों का सत्यापन, इसके माध्यम से जापान अंतरराष्ट्रीय स्तर पर योगदान दे सकता है। 🔳 व्यक्ति और कंपनियों से मांगी जाने वाली क्रियाएँ AGI का प्रकट होना, रोजगार, पूंजीवाद, लोकतंत्र जैसे समाज के मूलभूत पहलुओं को बदल सकता है। यूमिचि का कहना है कि पहले AI की प्रगति और जोखिमों के बारे में सही जानकारी प्राप्त करें, सूचना साझा करें, और समग्र समाज के स्तर पर सुरक्षा और नियमन पर चर्चा करें।
