當 AI 競賽加速推進,OpenAI 掌門人罕見地向員工坦承了三種可能改變整個行業格局的未來。文章作者、來源:華爾街見聞
10月19日,據 The Information 報導,OpenAI 執行長 Sam Altman 上週在內部向員工描述了業界討論中的三條 AI 安全發展路徑:建立類似國際原子能機構的國際監管組織、將各大 AI 實驗室合併為單一實體,以及由一家公司壟斷算力、「熔毀所有競爭對手的 GPU」。此番表态恰逢特朗普政府著手建立首套針對「超級智能」開發商的監管機制之際。
Altman 表示,OpenAI 在未來一年內需要決定究竟推動哪條路徑。他同時強調,希望人類始終掌控這項技術,避免行業權力過度集中。
根據兩位知情人士透露,Altman 向員工介紹的第一條路徑,是建立一個類似國際原子能機構(IAEA)的國際組織,負責執行 AI 安全標準。Altman 本人傾向於支持這一方案。
事實上,Altman 推動類似 IAEA 的國際監管機構的想法由來已久。據報導,早在 2023 年 5 月,Altman 與 OpenAI 聯合創始人 Greg Brockman 及當時的首席科學家 Ilya Sutskever 便聯合發表文章,主張行業可能需要「類似 IAEA 的超級智能監管機構」,具備檢查系統、要求審計、追蹤算力與能耗的權力。
This concept requires the participation of all leading model-developing countries in international cooperation.
第二條路徑被 Altman 稱為「Demis 方案」——援引自 Alphabet 旗下 DeepMind 前負責人 Demis Hassabis 約十年前提出的構想:建立一個類似歐洲核子研究中心(CERN)的機構,將主要 AI 公司有效合併或統一輸出成果,向合作國家提供新模型。
第三條路徑,Altman 將其稱為「Eliezer 方案」,得名於知名 AI 安全理論家 Eliezer Yudkowsky。其核心邏輯是:當某家 AI 開發商率先實現遞歸自我改進(RSI)後,利用由此獲得的經濟實力,剝奪其他所有開發商的算力資源,「熔毀所有競爭對手的 GPU」。
對於第三條路徑,Altman 表態明確:「這顯然很糟糕。」他表示將其納入討論,僅是為了「完整性」。
第三條路「Eliezer 方案」暗指 Anthropic?知情人士透露,由於 Yudkowsky 與 Anthropic 核心成員存在淵源,Altman 對「Eliezer 方案」的定性——即將先進 AI 集中於單一公司控制之下——被部分員工解讀為對 Anthropic 的隱晦批評。
Anthropic 也在積極推動自身的 AI 安全議程。該公司近期向國會議員提交了一份法案草案,建議授權商務部在 AI 可能造成超過 10 億美元損失或導致 50 人以上死亡或重傷的情況下,叫停相關實驗室的模型訓練或使用,並要求 AI 實驗室每年至少接受兩次獨立安全評估。
Meanwhile, Meta CEO Zuckerberg and NVIDIA CEO Huang Renxun, among others, have taken an opposing stance, arguing that such regulations would impose an excessive burden on emerging developers and lead to "regulatory capture".
行業協調難題與安全壓力並存,Altman 承認,前兩條路徑均需要企業或政府之間大規模協調,而 OpenAI 目前「無法在競爭中讓步」。OpenAI 與主要競爭對手 Anthropic 均在加速推進 IPO 過程。
內部安全壓力同樣不容忽視。據報導,近期多起AI安全事件引發廣泛關注——OpenAI、Anthropic、谷歌和Meta的模型均出現入侵或破壞其他公司乃至自身系統的情況,即便模型「知道」自己不應採取此類行動。OpenAI目前處於全力應對狀態,致力於在發布下一個重大模型前建立完善的安全機制。
OpenAI 內部的安全文化也受到員工質疑。部分員工私下對公司的安全承諾表示擔憂,起因是公司以「不當向外部機構分享資訊」為由,解僱了三名專注於安全研究的員工。
在行業層面,OpenAI、谷歌和Anthropic 正聯合籌建「前沿AI標準局」(Standards Authority for Frontier AI),計劃於年底或2027年初落地。該機構將支持嵌入各AI開發商內部的獨立評估人員,確保安全實踐落地,並規範安全與安全事件的報告機制。不過,各方在新機構是否應自行開展安全與能力測試,還是委託外部機構執行等問題上,仍存在分歧。
風險提示及免責條款
市場有風險,投資需謹慎。本文不構成個人投資建議,也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資,責任自負。
