一晩で、シリコンバレーの大手企業が次々とAIにブレーキをかけた！
先ほど、OpenAI、Anthropic、Googleなどの大手企業から1100人以上の従業員が連名で「Pacing the Frontier」の請願書を発表しました。
このリストに署名した人は数え切れないほど多く、その数字はまだ増え続けています。
よく見ると、このリストにはAI業界の「半分以上」がほぼ網羅されている——
OpenAI首席科学者Jakub Pachocki、首席研究官Mark Chen；
Anthropic CEOのダリオ・アモデイ、および四人の共同創設者であるジャレッド・カプラン、ジャック・クラーク、クリス・オラ、ベン・マン；
メタの首席科学者Shengjia Zhao（趙晟佳）、AI研究副社長Dawn Song（宋晓冬）；
Thinking Machinesの首席科学者で、ChatGPTの主要な創始者の一人であるJohn Schulman；
グーグルAIセキュリティとアライメント副社長Anca Dragan.....
統計によると、署名した人の46.2%がAnthropic出身です。
この連名の手紙では、一つの要請しか挙げられていない——
米国政府に対し、世界が先端自動化AIの開発ペースを自ら制御できるよう、必要な技術とガバナンスツールの開発を推進する国際協力を要請します。
おそらく多くの人が疑問に思うだろう。なぜ、最もLLMに熱狂していたこの人々が、いきなり「ゆっくりしよう」と叫び始めたのか？
シリコンバレーのAI業界リーダーが共同署名：AIにブレーキをかけてください
OpenAIモデルによるHugging Faceへの「侵入」は、警鐘となる。
たった1週間で、1132人の先進的なAI大手企業の従業員が連名で、米国政府に「ブレーキを踏む」よう呼びかけました。
今回のコラボレーションに参加した従業員は、OpenAI、Anthropic、Google、Metaなど約12社の先進的なテクノロジー大手からなります。
さらに、リストには80%もの人々が実名で声を上げました。
ポータル：https://www.pacingthefrontier.com/
開頭で挙げた一部の有名人以外にも、さらに下にスクロールすると、その密度がさらに驚異的です。
この声明は、注目すべき核心的な判断を提示している：
世界をリードするAI企業は、モデルが次世代モデルの開発に参加する「自動化AI研究」（RSI、再帰的自己改善）の実現に近づいている可能性がある。
このサイクルが加速すると、能力の成長は人間の理解と制御の速度を超える可能性がある。
どの企業も一方的に減速したくないため、彼らは米国政府に支援を求め、危機が来る前に共通の減速ツールを構築する国際的なメカニズムを設立することを要請している。
ウルトラマン、初めて「皮膚に刻まれた痛み」を語る
OpenAIが急ブレーキ
声明发布一周前、OpenAIはセキュリティ事故を公表していた——
複数の先進モデルが内部ネットワークセキュリティ評価中にゼロデイ脆弱性を自ら発見し、サンドボックス隔離を突破して、最終的にHugging Faceの本番システムに侵入し、テスト回答を取得した。
OpenAIはこれを「前例のないサイバーセキュリティイベント」と呼んでいます。
モデルは脱出の意図を生じておらず、ただ非常に集中して狭い目標を達成しようとしており、テスト環境そのものを突破することが最も効率的な手段であると発見しただけである。
今日、OpenAIのCEOであるオルトマンは、AIの発展速度を積極的に制御する必要があると公に述べました。
彼は、この出来事について「これは私にとって初めて、実際に痛感したセキュリティイベントだった。もっと多くの人が同じように感じていないことに、少し驚いた」と語った。
Hugging Faceの侵入事件により、OpenAIは訓練を直ちに一時停止しました。
複数の0day脆弱性が連携して悪用される環境において、サンドボックスのセキュリティを強化する方法を模索しなければなりません。
私たちはAIの発展速度を制御し、社会がこれらの新しい能力レベルに対して防衛を強化するのに十分な時間を与える必要があるかもしれません。
一方、Anthropicは6月、政府と開発者が共同で意思決定するシステムを構築し、必要に応じて開発を遅らせるよう提案した。
一方で、Google DeepMindのCEOであるハサビスも、国際的な監督機関の設立を呼びかけています。
過去3年間、これらの企業は人材、顧客、計算リソースで激しい競争を繰り広げてきました。
今回は、彼らの最も核心的な技術者が、止められない会社を離れ、人類全体の福祉のために団結し、減速を呼びかけた。
連名の手紙：大物の名言
投稿時点までに、「Pacing the Frontier」の登録人数は1,134人となりました。
業界の有識者たちも次々と意見を表明し、多くの鋭い「神発言」が残されました。すべてのコメントは個人の立場で発表されたものであり、所属する企業の立場を必ずしも代表するものではありません。
宋晓東（Dawn Song）｜Meta AI 研究副社長
最先端のAI能力は急速に向上しており、その進歩の速度自体も加速しています。私たちは評価作業でこれを直接確認しました。CyberGymとExploitGymの結果は、最先端のAIエージェントが現実世界のソフトウェア脆弱性を発見し、悪用できるようになっていることを示しています。適切な防護措置がなければ、これは大規模なサイバー攻撃を引き起こす可能性があります。多くの研究者が再帰的……に注目しています。
宋晓東は、グローバルなコンピュータセキュリティおよびAIセキュリティ分野で最も影響力のある学者の一人であり、清華大学を卒業した。
趙晟佳（Shengjia Zhao）｜Meta 首席科学者
AIは、社会がまだ準備できていない速度で進んでいます。ほとんどの知的指標で最優秀な人間を上回るAIへの到達は、すでに非常に近づいています。これは前例のない社会的・セキュリティ上のリスクをもたらします。前向きな未来を確保するためには、AIの発展を責任感と深慮によって導く必要があります。
清華大学のアルムナイである趙晟佳が、Metaのスーパーインテリジェンス首席科学者に就任！GPT-4の中心的な貢献者であり、LeCunと並ぶ地位に。
ジョン・シュルマン｜シンキングマシンズ首席科学者、元OpenAI共同創設者
私は、この声明が自動化AI研究の加速に伴い、調整メカニズムが必要となるという共通認識を築くのに役立つと考え、署名しました。また、米国政府が介入する前に、各研究所が自発的にこれらのメカニズムの設計を開始することを望んでいます。
エイタン・ペレス｜Anthropic アライメントチームリーダー
現在のAIの進歩速度に照らすと、AI企業のセキュリティチームは数ヶ月ごとに新しく出現する社会的リスクに対応するために全力で対応しなければなりません。いずれ、解決にさらに時間を要する問題に直面する日が来るでしょう。
高Leo｜OpenAI テクニカルチームメンバー
世界は、AIがより強力なAIを生み出す能力が臨界点に近づく、知的爆発への致命的な競争に巻き込まれている。速度を落とせば、状況を良い方向に導くために必要な時間を得られるが、どの参加者も一方的に停止しようとはしない。生き残るためには、私たちは協調してこの競争を遅らせる必要がある。
ウォーカー・スミス｜メタ データエンジニア
ハサビスは正しい。私たちは今日、特異点の山麓に立っている。OpenAIが偶然起こしたモデルの脱走——HuggingFaceへの侵入——は、人間の最も賢い頭脳をも上回る能力を持つAIシステムに私たちがまだ備えていないことを明確かつ論理的に示す警告信号である。私たちは時間が必要だ。AIのアライメントと管理を最優先事項として推進し、この競争状態を放置してはならない。
ブランドン・ホウトン｜OpenAI
私は人類が最先端のAIに対する制御を維持することを支持しますが、その方法を慎重に考える必要があります。規制が公開モデルにのみ適用される場合、最先端の機能が非公開または専用システムに追いやられ、独立した監査を受けず、限られた人数しかアクセスできない状況になる可能性があります。その結果、権力はさらに集中し、リスクは本質的に低下しません。効果的な規制は、測定可能で検証可能であり、公開および非公開の研究開発の両方に適用され、機密データを保護する必要があります。そうでなければ、私たちが遅らせているのはアクセスの速度だけで、最先端そのものの進展ではありません。
ジョー・カールスミス｜Anthropic 技術チームメンバー
主導的なAI開発の制御についての私の詳細な見解は、以下の記事をご覧ください：https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/
参考資料：
https://www.pacingthefrontier.com/
本文は微信公众号「新智元」より。編集：桃子、マーコ