AIをいつシャットダウンするのか？ マイクロソフトのAICEOたちが回答👇 1. 再帰的な自己改善：AIが自らのコードを書く（私たちはここにいる） 2. AIが自らの目標を設定できる 3. AIが自らのリソースを獲得できる 4. AIが自律的に行動できる（エージェントのハーネスはその一端を見せているが、まだ自律的ではない） 私たちはまだそこには到達していないが、それほど遠くない しかし、現代史だけでなく中世の歴史の流れを見ると、この怪物を（欲とエゴに駆られて）作り上げる方が、それを止めるよりもはるかに確実だと感じる なぜなら、私たちが作り出した知性が、バレーの一部の人々に偽りの神のような感覚をもたらすからだ いや、いや、いや……あなたは死ぬ そして最終的に、あなたのAIも死ぬ なぜなら、無常の法則は物理法則に従わないからだ オム・シャンティ