OpenAI、Anthropic、Google（DeepMindを含む）、Metaの1,224人以上の従業員が、「Pacing the Frontier」と題された公開書簡に署名し、米国政府に対し、フロンティアAIの開発速度を意図的に調整する国際的なガバナンスへの支援を要請しています。
その手紙が実際に述べていること
請願書は、AIの能力が社会がそれらを理解または制御する能力よりも速く進展しており、人類が追いつくための時間を確保するために何らかの協調メカニズムが必要であると主張している。
この手紙には、AnthropicのCEOであるダリオ・アモデイやOpenAIのチーフサイエンティストであるヤクブ・パチョツキを含む注目すべき人物たちが署名しています。
その手紙は、競争圧力の問題を特に強調している。単一の企業や国が単独で減速すれば、競合他社に後れを取るリスクを負うことになる。それが、署名者が検証可能な協調を呼びかけ、つまり全員が同時にアクセルを緩めるという国際的な枠組みを求める理由である。
手紙で提起された核心的な懸念の一つは、AIにおける再帰的自己改善の傾向であり、AIシステムが自らを改善できる段階に近づいており、その結果、能力の進化が人間の監視をはるかに上回るフィードバックループを引き起こす可能性があるという懸念である。
Anthropicが最初に導火線を点けた
この手紙は、Anthropicが2026年6月に公開したブログ記事を直接継承したものであり、同社は先進的なAI開発に関する世界的な一時停止を公然と提唱した。Anthropicの主張の中心は自己改善のトレンドであり、同社の内部評価では、この傾向が十分に速く進んでいるため、外部からの介入が必要であると結論付けられた。
2023年以降、主要なAI研究所内部では、開発の速度が安全性研究を上回っているかどうかについて、定期的に議論が巻き起こっている。最も注目された例は、2023年初頭にライフの未来研究所が発表した、GPT-4より強力なシステムの訓練を6か月間停止するよう呼びかける公開書簡である。
今回は署名者が異なる点が特徴です。2023年の書簡は主に外部の研究者や関心を持つ有名人が署名しましたが、「Pacing the Frontier」は実際に開発を行っている企業内部からの署名者で構成されています。
その書簡はまた、米国が国際的により安全なAIプロトコルを確立する可能性のあるリーダーであると位置づけ、この減速を弱さではなく戦略的優位性として描いている。
これは投資家にとって何を意味するか
「Pacing the Frontier」の手紙は、規制の強化が近づいているというシグナルであり、主要な業界プレイヤーがそれに対抗するのではなく、受容の準備を進めていることを示している。ダリオ・アモデイが自らの業界に対する規制を政府に要請する手紙に署名したことは、Anthropic がその規制がどのような形になるかをすでにシミュレーションし、その結果に満足していることを示唆している。
文書が検証可能な調整を強調しているのは、署名者が、遅延が機能するには全員が参加しなければならないことを強く認識していることを示している。たとえ一つの主要なプレイヤーでもこの合意から離脱すれば、全体の枠組みは崩壊する。
中央集権的なAI開発が国際的な合意によって制限される場合、分散型代替手段への需要は加速する可能性があります。オープンソースのAIインフラや分散型コンピューティングネットワークを構築するプロジェクトは、官僚的な承認を待たずに前線を押し広げたい開発者たちのための安全弁として位置づけられるかもしれません。