AIコンテストが加速する中、OpenAIの最高経営責任者は、業界全体の構図を変える可能性のある3つの未来を従業員に明かした。記事執筆者、出典：ウォールストリート・ジェイニーズ
10月19日、The Informationによると、OpenAIのCEOであるSam Altmanは先週、社内において業界で議論されている3つのAIセキュリティの発展パスを従業員に説明した。それは、国際原子力機関に類する国際的な監督機関の設立、主要なAIラボを単一のエントティに統合すること、および1社が計算リソースを独占し「すべての競合他社のGPUを熔解する」ことである。この発言は、トランプ政権が「超知能」開発者向けの初の監督メカニズムを構築し始めた時期と重なる。
Altmanは、OpenAIは今後1年以内にどの道を進むかを決定する必要があると述べ、人類が常にこの技術を統制し、業界の権力が過度に集中しないようにすることの重要性を強調した。
三位の経路があり、それぞれ異なる目的を指向している。二人の関係者によると、Altmanが従業員に紹介した第一の経路は、AIセキュリティ基準を実施するための国際原子力機関（IAEA）に類似した国際機関を設立することである。Altman自身はこの案を支持している。
実際、AltmanはIAEAのような国際監督機関のアイデアを長く推進してきた。2023年5月には、AltmanとOpenAIの共同創設者であるGreg Brockman、そして当時のチーフサイエンティストであるIlya Sutskeverが共同で記事を発表し、業界には「IAEAに類する超知能監督機関」が必要であり、システムの検査、監査の要求、計算リソースと電力消費の追跡の権限を有することが提唱されたと報じられている。
この構想には、最先端モデル開発国すべてが国際協力に参加する必要があります。
第二の道筋は、Altmanによって「Demis案」と呼ばれている——これは、Alphabet傘下のDeepMindの元責任者であるDemis Hassabisが約10年前に提唱した構想に由来する：欧州核子研究機関（CERN）のような機関を設立し、主要なAI企業を効果的に統合または成果を統一し、協力国に新しいモデルを提供する。
第三の道筋は、Altmanが「Eliezer方案」と呼ぶもので、有名なAIセキュリティ理論家Eliezer Yudkowskyに由来する。その核心的なロジックは、あるAI開発者が再帰的自己改善（RSI）を最初に実現した後、得られた経済的力を用いて他のすべての開発者の計算リソースを奪い、「すべての競合他社のGPUを熔融させる」ことである。
第三の道について、アルトマンは明確な態度を示した。「これは明らかに良くない。」彼は、その議論に含めたのは「完全性」のためだけだと述べた。
第三の道「エリーザー・プラン」はAnthropicを暗に指す？関係者によると、ユドコフスキーとAnthropicの核心メンバーとのつながりから、Altmanが「エリーザー・プラン」を「先進的なAIを単一の企業が支配する」と定義したことが、一部の従業員によってAnthropicへの控えめな批判と解釈された。
Anthropicは、自社のAIセキュリティ議題を積極的に推進している。同社は最近、議員に対して法案の草案を提出し、AIが10億ドル以上の損失を引き起こす、または50人以上の死亡または重傷をもたらす可能性がある場合、商務省が関連ラボのモデル訓練または使用を停止する権限を付与すること、およびAIラボが年間少なくとも2回の独立したセキュリティ評価を受けることを提案した。
一方で、メタのCEOであるザッカーバーグや、NVIDIAのCEOであるジェンセン・ホアンらは、このような規制が新興開発者に過重な負担を課し、「規制捕獲」を生むと反対しています。
業界の調整の難しさとセキュリティの圧力が併存する中、Altmanは、前の2つの道筋には企業や政府間の大規模な調整が必要であることを認めたが、OpenAIは現在「競争の中で譲歩できない」状況である。OpenAIと主要な競合他社であるAnthropicは、いずれもIPOプロセスを加速させている。
内部のセキュリティ上の圧力も無視できません。最近、OpenAI、Anthropic、Google、Metaのモデルが、自らがそのような行動を取るべきでないと「理解」しているにもかかわらず、他の企業や自社のシステムを侵入または破壊する事例が複数報告され、広く注目されています。OpenAIは、次の大規模モデルをリリースする前に、十分なセキュリティメカニズムを構築するために全力を尽くしています。
OpenAIの内部のセキュリティ文化も従業員から疑問視されている。一部の従業員は、同社が「外部機関への情報不適切な共有」を理由に、セキュリティ研究に従事していた3名の従業員を解雇したことを受けて、会社のセキュリティへの約束に懸念を示している。
業界レベルで、OpenAI、Google、Anthropicは「フロンティアAI標準局」（Standards Authority for Frontier AI）の設立を共同で推進しており、2024年末または2027年初頭の設立を予定している。この機関は、各AI開発者内部に配置される独立した評価担当者を支援し、安全対策の実施を確保するとともに、セキュリティおよびセキュリティイベントの報告メカニズムを標準化する。ただし、新機関が自らセキュリティおよび能力テストを実施するべきか、それとも外部機関に委託すべきかという点について、各方の間で意見の相違が残っている。
リスク通知および免責条項
市場にはリスクが伴います。投資は慎重に行ってください。本記事は個人的な投資提案を構成するものではなく、個々のユーザーの特定の投資目標、財務状況、または要件を考慮したものではありません。ユーザーは、本記事に記載されたいかなる意見、見解、または結論が自身の状況に適合するかを検討する必要があります。本記事に基づいて投資を行う場合、その責任はユーザー自身にあります。