OpenAI CEO、安全なスーパーAI開発のための3つの道を提案

火星財經の報道によると、OpenAIのCEOであるオットマンは先週、従業員にスーパーアイの安全な開発に関する3つの案を紹介した。第一の案は、国際原子力機関に類似したグローバル監督機関を設立し、先進モデルを検査し、セキュリティ対策を監査するというもので、関係者によると、オットマンはこの路線を好んでいる。第二の案は、欧州核子研究機構（CERN）に倣い、主要なAI研究所を1つの組織に統合するか、統一機関を通じて共同開発を行い、互いに競い合うのではなく協力するという案である。第三の案は最も極端で、彼はこれを「エリーザー案」と呼んでいる：あるAI企業が再帰的自己改善を最初に実現し、圧倒的な経済力をもって計算リソースを支配することで、他の開発者が追いつけないようにするという案である。オットマンはこの構想を「他のすべての企業のGPUを溶かす」と表現し、同時にこの案は非常に悪質であり、可能性を網羅するために提示しただけだと述べた。「GPUを溶かす」という構想は、AIセキュリティ研究者エリーザー・ユドコフスキーによるもので、彼は2021年に、スーパーアイが自己複製可能なナノマシンを生成して世界中のGPUを溶かすという思想実験を提唱したが、これはあくまで介入の極端な例を示すためのものであり、実行を推奨するものではないと明言している。OpenAIは2023年に「AI版国際原子力機関」の設立を提案しており、Google DeepMindの責任者ハサビスも「AI版CERN」の設立を主張している。現在、OpenAI、Google、Anthropicは今年末または来年初めに共同セキュリティ基準組織を設立する計画であるが、モデルセキュリティテストの責任帰属について意見が分かれている。オットマンはAI開発に速度制限を設けることを望んでいるが、同時にOpenAIは現在、競合他社に競争優位性を譲ることはできないと述べている。