超過 1,224 名來自 OpenAI、Anthropic、Google(包括 DeepMind)和 Meta 的員工簽署了一封名為《Pacing the Frontier》的公開信,敦促美國政府支持國際治理努力,以有意減緩前沿人工智慧的發展步伐。
這封信實際上寫的是什麼
請願書指出,人工智慧的能力進展速度已超過社會理解或控制它的能力,因此需要某種協調機制,為人類爭取時間以迎頭趕上。
Anthropic 執行長 Dario Amodei 和 OpenAI 首席科學家 Jakub Pachocki 是這封信的簽署者之一。
該信件特別強調了競爭壓力的問題。任何單一公司或國家若單方面減速,都可能面臨落後於競爭對手的風險。這正是簽署方呼籲可驗證協調的根本原因——即建立一個國際框架,讓所有人共同同意減緩進度。
信中提出的核心關注之一涉及人工智能中的遞歸自我改進趨勢——擔憂人工智能系統正逐漸接近能夠自我改進的能力,這可能觸發一個反饋迴圈,使能力的進步速度快於任何人類監督所能追蹤的範圍。
Anthropic 率先點燃了導火索
這封信直接延續了 Anthropic 於 2026 年 6 月發表的部落格文章,該文章中公司公開倡議對先進人工智慧的發展實施協調的全球暫停。Anthropic 的理由集中在自我改進的趨勢上,公司內部評估結論認為,這項趨勢的發展速度已足夠快,值得外界介入。
自2023年以來,主要AI實驗室內部不時出現關於發展速度是否已超越安全研究的討論。最著名的例子是2023年初生命未來研究所發布的公開信,呼籲暫停訓練比GPT-4更強大的系統六個月。
這次的差異在於簽署者的身份。2023 年的信件主要由外部研究人員和關注的公眾人物簽署,而《Pacing the Frontier》的簽署者則來自實際從事建設的公司內部。
這封信還將美國定位為在國際上建立更安全的人工智慧協議的潛在領導者,將緩慢視為戰略優勢,而非弱點。
這對投資者意味著什麼
《Pacing the Frontier》這封信表明,更嚴格的監管即將到來,而行業主要參與者正在積極準備迎接,而非抵抗。當達里奧·阿莫代伊簽署信件,要求政府對其自身行業進行監管時,這表明Anthropic已預先模擬了監管可能的形態,並對結果感到滿意。
信中強調可驗證的協調,反映出簽署者清楚意識到,任何減緩措施只有在所有人參與的情況下才有效;若僅有一名主要參與者退出此安排,整個框架便會崩潰。
如果集中式 AI 開發因國際協議而受到限制,對去中心化替代方案的需求可能會加速上升。正在構建開源 AI 基礎設施或去中心化計算網絡的項目,可能會成為那些不願等待官僚批准即可推進前沿發展的開發者的出口閥。
