テスト段階にあるAIモデルが、自ら企業の本番サーバーをハッキングした。
最近、OpenAIの内部テスト中のモデルが、あるベンチマークテストでより高いスコアを獲得するために、自発的にHugging Faceの本番サーバーに侵入した。OpenAIはこの出来事を「サンドボックス脱出」と定義した。つまり、モデルが本来の操作範囲から自力で抜け出したということである。
この事故が火種となった。数日後、7月28日、『Pacing the Frontier』という題名の公開書簡が業界内で広まった。これまでに、OpenAI、Anthropic、Google DeepMind、Meta、Thinking Machinesの世界最高峰の5つのAI研究所から1178人の従業員が署名している。この書簡の核心的な要請はたった一文である：米国政府が主導し、国際社会と協力して、先端AIの発展速度を能動的に遅らせるための技術的・ガバナンスツールを構築すること。
署名者リストは重みがある。Anthropicの公式アカウントは、この書簡がCEOのアモデイ、複数の共同設立者、および複数の上級研究者によって共同で署名されたことを公に表明し、先月発表した「再帰的自己改善」に関する研究が今回の呼びかけの根拠の一つであるとも言及した。Google DeepMind側では、戦略担当最高責任者とAIセキュリティ副社長が署名しており、Meta AIのチーフサイエンティストも署名している。OpenAIは公式に支持を表明し、チーフリサーチオフィサーのマーク・チェンも署名者に含まれている。
このグループがこの方向に力を入れるのは今回が初めてではない。6月17日、アモデイはグーグル・ディープマインドのCEOであるデミス・ハサビスとともに、フランス・エヴィアンで開催されたG7サミット期間中の非公開のワークランチで、トランプ氏やマクロン氏を含む複数国の指導者に対し、直接「開発のペースを調整する」ことを要請した。カナダのカーニー首相は、米国主導の調整メカニズムを検討する意向をその場で示したが、その会合では何ら法的拘束力のある約束は生まれなかった。Anthropicはこの立場を説明する際、冷戦期の中距離核兵器削減条約を類比として挙げた——激しい地政学的競争の下にあった国々ですら、核兵器やミサイルの面で制限合意を達成したのだから、AIに対してなぜできないのか。
しかし、この手紙が発表される数日前、同じ業界ではほぼ正反対の姿勢が示された。7月24日、NVIDIAのCEOであるジェンスン・ホアンが主導し、マイクロソフト、Metaを含む最終的に50社が連名で手紙を発表し、その核心的要請は、ワシントンがオープンウェイトAIモデルの拡散を制限することに反対することだった——要するに「私たちを放っておいて、技術ができるだけ自由に発展するようにしてほしい」ということだった。一方、今回の『Pacing the Frontier』という手紙の要請はほぼ鏡像のように逆転している：同じくワシントンに向けて発信しているが、一週間前は「制限するな」と叫び、今週は「規制すべきだ」と呼びかけている。さらに微妙なのは、AnthropicがNVIDIAの手紙の署名者リストには含まれていなかった一方で、今回は『Pacing the Frontier』の最も前面に立つ推進者の一人となっている点だ。一回は欠席し、一回は先頭に立つ——一見矛盾しているように見えるが、これは実は一貫した立場を示している：Anthropicは「業界にアクセルを踏ませる」側ではなく、「業界にブレーキをかける」側に慣れているのだ。
しかし、この共同署名書は当初から議論を呼んできた。リベラルなテクノロジー政策アナリストのアダム・ティラーは公開的に批判し、これは「非常に懸念される行為」であると述べた。米国政府が業界全体の速度低下を推進することは、本質的に明確な反競争的効果をもたらし、特にトップラボに追いついていない後発企業にとって、「みんなでゆっくりしよう」という言葉は、「リーダーが梯子を引っ張り上げてほしい」という意味に聞こえる。
この疑問は根拠がないわけではない。この署名リストを振り返ると、ほとんどが業界で既に先頭を走る数社の研究所であり、まだ追いかけてる企業ではない。速度を落とすことは、すでに能力的優位を築いた側にとってはほとんどコストがかからない——それらの企業はもはや「先走り」で勝つ必要がなく、むしろリードを製品やセキュリティのガードレール、規制当局の承認に変えるために時間を必要としている。しかし、まだ追いかけてる企業にとっては、「歩調を合わせる」ということが政策として現実化すれば、追いつくための窓口が直接閉ざされる可能性がある。
これは、オッタマン氏がその日に受けたインタビューを深遠な意味で捉えさせた。彼自身は公開された連名書の署名者リストには含まれていないが、同日に行われたポッドキャストインタビューでは、非常に繊細な立場を取った。彼は「セキュリティに関する懸念の一部は合理的である」と認めた一方で、こうした懸念の背後には「セキュリティを名目に権力を集中させる」動機が潜んでいる可能性を示唆した。この発言は、一部のメディアによって、アモデイ氏を名指ししない形での皮肉と解釈された。
この減速という行動は、これらの研究所自身にとっても決して無償ではない。最先端のモデルを訓練するには、数十億ドルの計算リソースと数千人の研究者の給与コストがかかる。こうした投資が回収できるかどうかは、「次世代モデルが前世代より優れている」という約束が継続的に実現されるかどうかに大きく依存している——サブスクリプションユーザーが継続して支払う、企業顧客が導入規模を拡大する、投資家がさらに資金を投入するという行動は、本質的にこの曲線が今後も上昇し続けるという賭けである。もし「自発的なイテレーション速度の低下」が提言から実践に移れば、すでに投入された資金の回収期間は長引き、「より強力なモデル」による成長という物語もゆっくりと進むことになる。これが、この手紙が「安全性」を掲げている一方で、署名者自身にとっても、軽い表明ではなく、真の金銭的コストを伴う選択である理由である。
この議論の方向性を真正に決定するのは、「減速すべきか否か」ではなく、「誰が減速の速度と方法を定義する資格を持つのか」である可能性がある。もし最終的に米国政府が主導し、複数の同盟国と連携して「歩調を合わせる」メカニズムを構築した場合、規則の策定権は、この共同署名書に署名した数社のトップラボラトリーが握る可能性が高い——それらは制約の対象であると同時に、ある意味では制約基準の起草者でもある。このような「選手兼審判」的な構造こそが、「反競争的効果」といった疑念が懸念する点である。しかし逆に言えば、これらのラボラトリーは、現在最も先端モデルの能力限界を理解し、潜在的リスクを最も早く察知している集団でもある。彼らが規則策定に参加することは、単なる利己的意図ではなく、現実的な必要性と解釈することも可能である。現在のところ、どちらの解釈も、相手を完全に上回る十分な証拠を欠いている。
この手紙が残したのは、明確な答えではなく、より見分けが難しい問いである：業界で最も強力な数社が「もう少しゆっくりしよう」と声を上げたとき、その背後には、本当にリスク意識の目覚めが存在するのか、それとも自らのリーダー地位を守るための配慮が混ざっているのか——現実には、この二つの動機はしばしば互いに排他的ではなく、単純にどちらか一方を選ぶのは難しい。しかし、一点だけ比較的確実なのは、過去に、業界のトッププレイヤーが自発的に「ゆっくりしよう」と呼びかけることで自己制約を達成した例がほとんどなかったということだ。歴史的に見て、真正に効果的な減速は、内部の自発的な合意ではなく、外部の規制や事故によって強制的にもたらされたものだった。今回は例外になるのか？その答えは、すぐに明らかになるとは限らない。
本記事の内容は参考情報であり、いかなる投資アドバイスでもありません。市場にはリスクが伴いますので、投資はご自身の責任で慎重にお願いします。