AIセーフティラボであるAnthropicは、同社を世界で最も価値のある企業の一つにした技術について、世界にその開発を控えるよう呼びかけています。現在、Anthropicの評価額は約9650億ドルから1兆ドルです。
2026年6月4日、同社はAnthropic Instituteを通じて、フロンティアAI開発における世界的な一時停止を求める提案を発表しました。核心的な主張は、AIシステムが自らを再帰的に改善する能力に近づいており、人間はこのプロセスを意味のある形で監視する能力を失いつつあるということです。
パニックの背後にある数字
マリナ・ファバロとジャック・クラークが執筆したこのブログ記事は、企業の更新というより警告の合図のように読める道筋を示している。
2026年5月現在、Anthropicの自社コードベースにマージされたコードの80％以上は、人間のエンジニアではなく、AI自体によって書かれた。
2026年第二四半期には、同社のエンジニアが1日にマージするコード量が2024年と比較して8倍増加しました。AIタスク完了の範囲、つまりAIが自律的に処理できるタスクの複雑さは、約4か月ごとに倍増しています。2024年3月には、モデルが処理できるタスクは約4分程度でしたが、その後のモデルでは12時間かかるタスクまで対応可能になりました。
Anthropicは、AIが制御されないループで自らを再設計してより賢くなるという完全な再帰的自己改善が、まだ実現していないことを注意深く指摘している。しかし、同社の独自データは、「実現していない」と「実現しうる」の間の差が急速に縮まっていることを示唆している。
単独の停止ではうまくいかない理由
この提案は単に「みんなやめなさい」と言っているだけではありません。この状況に組み込まれたゲーム理論の問題を認めています。
Anthropicが単独で停止した場合、OpenAIやGoogle DeepMind、xAIなどの競合は開発を継続する。慎重なラボは後れを取り、無謀なラボが市場を制覇する。Anthropicが提案する解決策は、複数のラボが同時に開発を停止できる国際的に検証可能なメカニズムである。
2023年3月、ライフの未来研究所は、GPT-4より強力なAIシステムのトレーニングを6か月間停止するよう求める公開書簡を発表した。これは数千人の研究者とテクノロジー経営者によって署名されたが、そのラボ自体には広く無視された。
今違うのは、その呼びかけが家の中から来ているということだ。Anthropicは外部の擁護団体ではない。自ら警告している能力に直接アクセスできるフロンティアラボである。
2026年3月、Anthropic、OpenAI、およびxAIのオフィス外で抗議活動が発生し、デモ参加者はフロンティアモデルの開発を一時停止することを訴えた。
部屋の隅のIPOの象
アントロピックは、時価総額が9650億ドルから1兆ドルの間にあるとされ、最終的なIPOに向けた準備を進めていると報じられている。上場直前にグローバルな開発の停止を呼びかけることは、異例の企業的良心の表れか、それとも非常に賢明なポジショニング戦略である。協調的な減速は、アントロピックがすでにトップクラスのプレイヤーであるこの瞬間に競争環境を凍結させ、新規参入者を排除し、既存のリーダーが地位を固める機会をもたらす。
これは投資家にとって何を意味するのか
主要なプレイヤーであるAnthropic、OpenAI、Google DeepMindは、人材、データ、インフラにおいてすでに大きな優位性を築いています。一時停止はこれらの優位性を消し去ることはありません。むしろ、新規参入者が差を縮めるのを防ぐことで、それらの優位性をさらに固定化する可能性があります。
注目すべき最も重要な点は、その他のフロンティアラボがどのように反応するかです。Anthropicの提案は、多国間の合意を明確に必要としています。OpenAI、Google DeepMind、そしてxAIがテーブルにいない限り、これは単なる論理的なブログ投稿にとどまり、政策としての現実にはなりません。