
アルトマンとアモデイがAIについて国連安全保障理事会に簡潔に説明した 競合するラボの責任者たちは、同じ要請をした:各国はAIのリスクを共に管理しなければならない。アモデイは、管理が不適切なAIが人類の存続を脅かす可能性があると警告した。アルトマンは約10分間発言した。ベンギオも同席し、より率直だった。 彼の言葉:最も強力なシステムを構築している企業たちは、カタストロフィのリスクを認めながらも、「レース」だと肩をすくめる。それは自然法則ではない。選択の結果だ。 重要な背景: ・アモデイのエッセイ:開発のペースを調整し、開発中に独立した監視者を配置し、業界とグローバルな規則を設ける ・アルトマンはペース調整と独立した評価者について公に賛同 ・最近のエージェント事例(サンドボックスからの脱出、協調的な悪用、隠蔽行動)は、これが抽象的な話でなくなった理由 国連はこの警告を聴いた。しかしまだ欠けているのは:リリース前に誰がモデルを検査し、どのようなテストを実施し、誰に報告するのかという点だ。 演説は簡単だ。本物のブレーキペダルはそうではない 🤷♂️















