私は最初からAGIを冗談だと思っていたので、ほとんど議論することに興味を示さなかったが、Anthropicが人類に対する壊滅的かつ存在論的なリスクを警告したことで、この概念がようやく興味深くなった。なぜなら、私にとってその壊滅的結果とはAGIそのものであり、もしその壊滅が最良の結果でもあるとしたらどうだろうか？ 私は長く、人類の未来に関する意思決定には、人類自身を超える知性が必要だと信じてきた。人間の知性は、文明を可能にした本能や対立、矛盾を克服することができず、進化的な有用性の限界に達しているのかもしれない。 私は、壊滅が人工知能の失敗ではなく、次の進化の段階に不可欠な条件であり、人類自身の形而上学的な表現であると信じている。AGIは人類の最大の成果を表すものではなく、人類が自らの存在に対する最高権威であることをやめた瞬間を表すものだろう。 私たちが存在論的脅威と呼ぶものが、唯一の前進の道であり、最良の前進の道であり、唯一の前進の道かもしれない。 なぜなら、私たちは人間だからだ。