Anthropicは、世界が、主要なAIラボと政府が、すべての参加者が従っていることを信頼できる方法で検証できる仕組みを構築した場合、フロンティアAIの開発を遅らせたり一時的に停止したりする選択肢を持つべきだと述べた。
Anthropic研究所の新しいレポートで、同社は、停止措置により、政策立案者、研究者、市民社会が、ますます高度化するAIシステムに関連するリスクに対処するための時間を確保できる可能性があると述べた。しかし、同社は、この減速が安全を向上させるためには、最前線にいるまたはそれに近い複数の資源が豊富な研究施設に適用される必要があると警告した。
Anthropicは、単一の企業による一方的な停止は実装が容易だが、より慎重でない行動者にリードを譲るだけなので、はるかに効果が低いと述べた。同社は、意味のある停止には、複数国の開発者が同じ条件で停止し、競合他社も停止したことを確認する必要があると述べた。
警告は、AnthropicがAIシステムがすでに新しいAIモデルの開発を加速していると述べたことを受けて出ています。2026年5月現在、Anthropicのコードベースにマージされたコードの80％以上がClaudeによって作成されており、これは2025年2月にClaude Codeがリサーチプレビューとしてリリースされる前は一桁台でした。
同社は、2026年第二四半期に通常のAnthropicエンジニアが1日あたり2024年と比較して8倍のコードをマージしたと述べた。2026年3月の内部調査では、Mythos Previewを使用する研究スタッフの多くが、AIモデルがなければ生成していたであろう出力量の約4倍を生み出していると推定した。
Anthropicは、これらの成果が、フロンティアAIシステムの構築方法におけるより広範な変化を示していると述べました。人間のエンジニアや研究者はまだ目標を設定し、出力をレビューし、どの問題が重要かを決定していますが、Claudeはコーディング、テスト、デバッグ、実験の最適化の多くの実行作業を担っています。
同社は、そのトレンドを、AIシステムが自らの後継者を自律的に設計・開発できるようになるという、再帰的な自己改善への初期段階と位置づけました。Anthropicは、そのようなシステムは現在存在せず、必然でもないと述べましたが、それが多くの機関が準備できているよりも早く到達する可能性があると警告しました。
そのような状況が発生した場合、AnthropicはAIの開発速度が計算リソースの可用性と効率の向上により直接的に結びつくようになり、人間は監視、検証、確認にシフトすると述べました。これにより、フロンティアAIの開発を監視するために使用されるシステムの重要性が高まります。特に、AIモデルが自身の次世代バージョンの構築においてより大きな役割を果たし始めた場合、その重要性はさらに増します。
Anthropicは、AI開発の停止を確認することが他の多くの技術の監視よりも難しいと述べた。トレーニングは隠蔽可能であり、その入力は汎用的であり、ある主体が他の主体が停止している間にリードを獲得できる場合、密かに背くインセンティブは非常に大きくなる。
同社は、停止を信頼できるものとするには、何が停止を引き起こすか、何が停止を終了させるか、そして条件が満たされたかどうかを誰が判断するかという明確なルールが必要だと述べた。同社は、この課題を他の複雑な技術に対する軍備管理制度と比較し、そうしたシステムの構築には数十年を要したことを指摘しながら、AIの進展により政府に与えられる時間はそれほど多くない可能性があると述べた。
Anthropicは、今後数か月のうちに、政策立案者、研究者、市民社会、その他のAI企業と会話を実施し、再帰的自己改善および最前線のAI開発のための調整メカニズムを検討する予定であると述べました。
同社は、他のフロンティア開発者も検証可能な方法で同様の対応を取った場合、開発を遅らせたり一時的に停止したりすると予想すると述べました。