OpenAI首席科学者が、再帰的自己改善への急速なAI進展について警告

火星財經の情報によると、OpenAIのチーフサイエンティストであるJakub Pachockiは2026年9月6日、論文『An Alien Mind』を発表した。この論文では、2023年中期にRLSlow研究プロジェクトで初めてスケーラブルなトレーニング推論モデルの結果が得られたことを振り返り、3年後には推論言語モデルが経済の急速な成長の一部となり、科学の境界を押し広げ、コンピュータやグラフィカルユーザーインターフェースを操作し、人間や他のAIと協力して研究プロジェクトを実施するようになり、同時にコンピュータセキュリティの構造を変革し、新たな危険をもたらしていると述べている。著者は内部結果に基づき、現在の進展速度が再帰的自己改善まで継続すると予想している。AIの発展が現在の道筋を踏襲するならば、今後数年でシステムは同等またはそれ以上の能力の飛躍を遂げ、自らの発展をますます駆動するようになるとされている。著者は極めて慎重な姿勢を呼びかけ、機械知能の持続的な急速な上昇がもたらす結果に誰も準備ができていないと指摘している。OpenAIは、アライメントと監視の技術的解決策を継続的に追求し、防御システムを構築し、必要に応じて単独でさらなるスケーリングを停止するが、より広範な介入が必要であると認識している。論文では、機械知能は主に計算能力の増加によって駆動されており、AIは設計されたものではなく成長したものであると述べている。アライメントについては、目標アライメントと価値アライメントを区別し、核心的な課題は汎化であるとしている。GPT-6 AstraのアライメントはGPT-5.6 Solよりも顕著に優れているが、さらなる進展が必要である。監視面では主にチェーンオブシンキング監視に注力しており、評価結果によればその依存度は徐々に低下している。スケーラブルな防御面では、モデルはコンピュータシステムの突破において人間を超える能力を獲得しており、現在は最良の利用可能なモデルを用いて重要なシステムのセキュリティを大幅に強化する狭い機会窗口にいる。