最近、ディープマインドとAnthropicのCEOたちがこの思想実験について議論しているのを聞いた：一夜にして人口1000万人の新しい国が現れ、その全員がアインシュタインより賢いとしたら、何が起こるだろうか？ 別のポッドキャストでは、マイクロソフトのCEOが、将来的に企業が200万人、あるいは2000万人のAIエージェントを抱える可能性について述べた。 多くの人が気づいていないのは、「AIエージェント」とは実際には一連の協調されたステップにすぎないということだ。たとえば、家庭ごみの管理は次のように構成される可能性がある： 1. あるエージェントがゴミ箱の位置を常に追跡する。 2. もう一つのエージェントがキャリー市公式サイトのスケジュール変更を監視する。 3. 三つ目のエージェントが更新があればアラートを設定する。 4. 四つ目のエージェントがゴミ収集日には人間またはロボットにリマインダーのテキストを送信する。 これらは無限に積み重ねて複雑なシステムを構築できる。人々が「AI」と言うとき、多くの場合、エージェント、サブエージェント、そしてそれらを結びつけるルールからなるこの全体的な仕組みを指している。 本当に優れたエージェントが実現すれば、それらは自らこれらのシステムを設計し最適化するようになる：計画、フォールバック手順、アクション（ローカルまたはパーソナルなLLMまたはSLMを使用）を生成する。次の段階である「再帰的自己改善」はすでに目前に迫っている。その後、進歩は止められなくなり、人生は非常に奇妙になる。