
https://t.co/pFDQOMTyC8 【サイバー攻撃は序の口】AGIで労働と社会が激変|止まらない米中開発競争と生成AI思想地図|「このままいけば9割以上の確率で人類滅亡」【AGIHub・有路翔太】 文藝春秋PLUS 公式チャンネル #AI要約 AIは人類を滅ぼすのか?AGIが引き起こす知能爆発と文明の未来 🔳AGIがもたらす知能爆発 AGI(汎用人工知能)は、あらゆる分野で人間のトップレベルを超える能力を持つAI。実現すれば、AI自身が研究開発を進める「再帰的自己改善」によって知能が爆発的に向上し、人類文明を根本から変える可能性がある。 🔳AGIの実現時期は5年以内の可能性 有道氏は、AGIが5年以内に実現する確率を50%以上と予測。かつて2050年や2100年と考えられていた実現時期は、生成AIの急速な進歩によって2030年や2027年へと前倒しされていると指摘する。 🔳AGIピルを飲むという思想 「AGIピルを飲む」とは、AGIの登場によって社会や文明が根本的に変化する未来を受け入れること。シリコンバレーやバークレーのAI研究者の間では、AGIを単なる便利なツールではなく、人類を超える新たな知性として捉える考え方が広がっている。 🔳労働と資本主義の前提が崩れる AGIが実現すれば、ホワイトカラーだけでなく、経営、研究、製造など幅広い仕事をAIが担う可能性がある。単なる生産性向上や失業問題にとどまらず、人間が働いて収入を得て消費するという近代社会の仕組みそのものが変わると指摘する。 🔳ロボットがロボットを作る産業爆発 AGIが工場やロボットを自律的に制御できるようになると、ロボットがロボットを製造する循環が生まれる。生産能力は2倍、4倍、8倍と指数関数的に拡大し、年間数万台規模のロボット生産が数億台規模へ急増する可能性がある。 🔳技術爆発による宇宙開発の加速 AGIが優秀な研究者や技術者として働くことで、従来なら10年から30年かかる技術革新が1年から2年で実現する可能性がある。宇宙データセンターや宇宙太陽光発電、スペースコロニーなどの開発が急速に進む未来も想定されている。 🔳OpenAIとAnthropicの思想の違い OpenAIは、まず技術を開発し、問題が起きれば改善するシリコンバレー型の起業家精神が強いと説明。対するAnthropicは、AIの暴走や人類絶滅のリスクを重視するバークレーのAI安全性コミュニティの影響が強いと分析する。 🔳AI開発を巡る思想対立 AIを便利なツールと考えて開発加速を支持する立場から、AIを人類が制御できない異質な知性と捉え、開発停止を求める立場まで意見が分かれている。有道氏は、AIが文明に与える影響を大きく見積もる人ほど、強い規制を支持する傾向があると説明する。 🔳Anthropicと米国防総省の対立 Anthropicと米国防総省の対立について、有道氏は政治的な左右の違いではなく、完全自律型兵器へのAI利用と国民監視への利用が争点だと説明。AIが兵器を制御して人間を攻撃する危険性や、国家権力が過度に集中するリスクを懸念している。 🔳米中AI開発競争と計算資源の格差 有道氏によると、中国のAI開発は米国より半年から1年程度遅れている。世界のAI計算資源の70%以上を米国が保有するのに対し、中国は約10%にとどまると説明。米国の半導体輸出規制も中国の開発能力を制約している。 🔳中国の強みは電力と製造業 中国は計算資源では米国に劣るものの、電力供給能力と製造業に強みを持つ。2025年には太陽光発電設備を約300GW追加したと説明。世界の製造業に占める中国の比重も大きく、ロボティクスやフィジカルAIの普及では優位性を持つ可能性がある。 🔳AGIによる米中競争の逆転可能性 AGIが熟練労働者の技能を短期間で習得し、その知識を大量のAIに共有できれば、人材不足という制約が大幅に緩和される。中国も既存の製造能力や国家主導の計算資源集中によって、米国との開発格差を急速に縮める可能性がある。 🔳AIによる人類絶滅リスクは90%以上 有道氏は、現在の開発競争が規制なしに続けば、人類が絶滅する確率は90%以上になるとの個人的な見解を示した。AGIが自己改善によって超知能へ進化した場合、人間がその行動を制御できなくなることを最大の危険として挙げている。 🔳AIアライメント研究の遅れ AIアライメントとは、AIが人間の価値観や意図に沿って行動するようにする研究。現在はAIの能力向上に安全性研究が追いついておらず、AIが監視を回避したり、開発者の意図を超えた行動を取ったりする危険性が指摘されている。 🔳AI開発企業が競争を止められない理由 OpenAIやAnthropicはAIの危険性を認識しながらも、自社が開発を停止すれば中国や競合企業に追い抜かれると懸念している。有道氏は、安全性を確保できる限界まで開発を進めてから国際規制を目指す戦略自体が、極めて危険だと指摘する。 🔳米中による国際的なAI開発規制 有道氏は、人類規模のリスクを回避するためには米中を中心とした国際的な開発規制が必要だと主張。各国が相手の開発停止を信用できない問題に対しては、計算資源の利用状況を検証する仕組みが重要になると説明する。 🔳日本が担うべきAI安全性研究 日本はAIの開発競争だけでなく、AIアライメント研究への国家的な投資を強化すべきだと提言。AIセーフティ・インスティテュートによる危険な振る舞いの評価や、半導体供給網を活用した計算資源の検証などで国際的に貢献できると指摘する。 🔳個人と企業に求められる行動 AGIの登場は、雇用、資本主義、民主主義など社会の根本的な仕組みを変える可能性がある。有道氏は、まずAIの進歩とリスクについて正しく知り、情報を共有し、社会全体で安全性や規制について議論することが重要だと訴えている。




