9月11日、ブリッジウォーター・アソシエイツの共同最高投資責任者であるグレッグ・ジェンセンは、AI規制についてこれまでで最も悲観的な評価の一つを述べた。彼の核心的な主張は、歴史が示すように、政府は本当にひどい出来事が起こるまで行動しないということである。
「AIが人を殺し始めるまで、残念ながら歴史は、我々が何の対策も取らないことを示唆している」とジェンセンは語り、COVID-19がすでに世界中に広がっていたが、ほとんどの政府がまだ対応を開始していなかった2020年2月と現在を比較した。
悪化する警告の1週間
ジェンセンの発言は、複数の著名な人物がAI開発の進展について深刻な懸念を表明した数日間の幕を閉じた。9月9日および10日、Anthropicの研究者たち、ジャコブ・コクソンとエバン・ヒュビンガーを含む者が、AI研究の現在のスピードについて明確な警告を発した。
コクソンはその期間中にAnthropicを辞任し、内部で研究していたリスクを理由に挙げた。両研究者は、現在の分野の進路が、指示に従うだけでなく自らの能力を書き換える自己改善型の超知能を生み出す可能性があると警告した。
彼らの推定は恐ろしかった：今後10年以内にAIによって人類が絶滅する確率が10％を超えるという。
ジェンセンは、積極的な対策を取らない場合、今後2年以内に大きなAI関連の出来事が発生する可能性があると示唆した。
ワシントンが注目し始めた
9月9日および10日、ローリー・トラハン下院議員やテッド・クルーズ上院議員を含む米国議会の議員らは、AI開発者による透明性の義務化と高リスクモデルに対する緊急停止メカニズムの確立を求める立法措置を推進した。
これらの提案は、7月にAIの能力の急速な拡大を指摘する報告書を発表した国連の独立パネルの作業を基にしています。パネルの中心的な結論は不快なものでした：AIは科学的理解や政府の政策を上回る速さで進化しています。
UNパネルは、意図せず開発されてしまう欺瞞的または能動的なシステム、つまり自律的に目標を追求し、それを監督する人間を誤導する可能性のあるAIについて特に警告しました。