サム・アルトマン、フロンティアリスクに対応するためにAI開発を遅らせる必要があると警告

OpenAIのCEO、サム・アルトマンが、モデル開発をより遅く、より注意深く監視するよう呼びかけた後、AIのニュースは最前線の安全性へとシフトした。彼は、能力がアライメントおよび監視システムよりも速く進展すれば、人類が制御を失う可能性があると警告した。

アルトマンは、強力なAIに対する強い中央集権的コントロールを別の危険として特定した。彼の9月14日の声明は、継続的な進展を支持したが、開発者は追加のセーフティコストと遅い開発を受け入れるべきだと述べた。

AIニュースはパーシングフロンティア開発に注目

Altmanは、AnthropicのCEOであるDario Amodeiが、研究者がセーフティ保護を強化しながら開発のペースを調整することを提案したことに賛成しました。

しかし、彼はペースを落とすことが技術的進歩を停止することを意味しないと説明した。代わりに、安全レビューに時間がかかる場合には、開発を遅らせることを受け入れるべきだと述べた。これらの対応には高額なコストが伴うが、アルトマンはそのコストを必要不可欠なものだと説明した。

AIニュースに加えて、Altman氏は、米国内での競争圧力が無謀な開発を正当化してはならないと述べました。また、モデルの能力は、アライメントおよびモニタリングシステムを超えて進化してはならないと追加しました。

進展が加速しており、責任ある開発がすべてのフロンティア研究所にとってより重要になっています。彼は、米国企業が、先進的なシステムを責任を持って開発すると国民に信じてもらえるようにする必要があると述べました。

以前の企業フレームワークは、公開デプロイ前に完了したモデルを主に検討していました。これらには、フロンティア研究所が開発した責任あるスケーリングポリシーと準備フレームワークが含まれます。

アルトマンは、現在の開発状況では新しいツールと早期の安全性評価が必要であると述べました。その結果、OpenAIは主要な能力向上の前に一部の安全性作業を前倒しで実施しています。

OpenAIは、フロンティア強化学習の選択された実行前に明示的なセーフティケースを策定しています。同社は、研究者がトレーニング実行によって顕著な能力向上が得られると予想する場合にこれらを適用します。

OpenAIは、完成したモデルをリリースする前に、セーフティ作業を継続して実施しています。したがって、このアプローチでは、開発段階と展開段階の両方で評価を行います。

アルトマンは、企業がアプローチを共有し、独自のセーフティ手順を提案すべきだと述べました。彼は、モデルの不一致、モニタリング、セーフティをカバーする共通の基準を支持しました。

これらの基準は、ますます高度化するシステムを評価する際の実験室の指針となる可能性があります。彼は、一貫した最前線リスクフレームワークの一環として、独立監査人の導入も歓迎しました。

最新のAIに関する声明は、立法を待たずに業界が即座に行動することを呼びかけました。アルトマン氏は、企業が安全対策を導入する前に独占禁止法の特例を必要としないと述べました。

彼は、フロンティア開発者向けの一貫した要件を定める連邦枠組みを支持した。しかし、彼は国際的な安全規則の調整において政府の役割をより大きく位置付けた。

Altman氏は、研究機関がまず自組織内で利用可能な保護措置を実装すべきだと述べました。その後、政府は各国間の調整を支援し、高度なモデルの開発を促進できます。

彼の発言は、AIの研究や能力の向上を停止することを求めていない。代わりに、より強力な監視と意図的なペースでの継続的な開発を提案した。

アルトマンは、高度なAI開発が深刻な悪影響をもたらす可能性がある二つの方法を説明しました。第一に、能力が利用可能なセーフガードを上回った場合、人類は制御を失う可能性があります。

第二に、一つの企業、国、研究機関、または個人が強力なシステムに対して過剰な支配を手に入れる可能性があります。このような集中は、ある行動主体が自分の世界観を他の人々に押し付けることを可能にします。

警告は、技術的制御と機関的制御を同じ安全の議論の中に位置付けた。アルトマンは、OpenAIがAIが人類に貢献することを確保し続けることを約束したと述べた。

最新のAIニュースによると、OpenAIのCEOは、すべてのフロンティア研究所がその責任を果たす必要があると強調しました。そうでなければ、より能力の高いシステムが適切な監督や共有された基準なしに進化する可能性があります。