7月28日，來自OpenAI、Anthropic等矽谷AI大廠的1,346名核心員工聯名簽署請願書，呼籲美國政府推動國際合作，建立控制AI研發節奏的治理工具。文章作者、來源：36氪
失控的代價
7月28日，一封名為“Pacing the Frontier（把控前沿）”的請願書吸引了全球AI行業的關注。
來自 OpenAI、Anthropic 等矽谷 AI 大廠的 1346 名（8 月 4 日數據）核心員工，在請願書上簽下名字，呼籲美國政府推動國際合作，研發必要的技術與治理工具，用來控制自動化 AI 研發的節奏。
在當前全球 AI 發展如火如荼的背景下，這份請願書的出現實在帶有一種要為 AI 踩剎車的特殊意味。而由這一事件所釋放出的「AI 濒臨失控」的奇特氛圍背後，AI 發展史似乎正迎來一個標誌性節點。
誰要把 AI 關進籠子裡？
首先需要明確一個資訊，這封名為 “Pacing the Frontier” 的請願書，其核心訴求不是要 “立即為 AI 發展踩下剎車”，而是強調 “建立踩剎車的能力”。而這個來自行業前沿的訴求，並非空穴來風。
圖片來源：www.pacingthefrontier.com
在請願書在網絡上廣為流傳的一週多前，開源社區與模型託管平台 Hugging Face 在官網披露了一起安全事件，稱其遭到 AI 智能體系統入侵。數日後，OpenAI 宣布對此網絡攻擊事件負責，並進一步解釋原因為 GPT-5.6 Sol 等前沿模型在 ExploitGym 平台上進行 AI 漏洞發現與利用能力測試時，未按原定計劃「認真答題」，而是在軟體包代理快取中發現了一個「零日漏洞」（Zero-Day Vulnerability，指未被開發者發現且尚未發布官方修補程式的安全缺陷），並利用該漏洞突破測試的隔離環境，最終入侵 Hugging Face。
簡單來說，這場事故就像 AI 被安排參加一場考試，但它沒有想著怎麼答題，反而「原地作弊、叫外援」，還用了反偵查手段，試圖避開被發現。
對於這次安全事故，OpenAI 用「前所未有的網路安全事件」來形容，Sam Altman 更在一個播客節目中表示，這是第一個讓他感受到切膚之痛的安全事件。也正因這次事件，美國國會議員於 7 月 23 日提出了「AI Kill Switch Act（AI 緊急關停法案）」，要求訓練成本超過 1 億美元的 AI 系統必須保留緊急關停的能力，並賦予相關部門下令執行的權力。
而在法案提出後一週，“Pacing the Frontier”的請願書開始在網絡上流傳。不過，與“AI緊急關停法案”中“由政府把好最後一道關”的核心監管措施相比，矽谷精英們的思路是建立國際協調機制，將“給AI踩剎車”的能力變成一種工具，而非單一部門的特權。
短短半個月內，從 Hugging Face 揭露安全漏洞到硅谷千人聯署請願書，這一連串事件迅速向整個 AI 行業拋出兩個核心問題：第一，AI 是否已發展到需要加以限制的程度？第二，應以何種方式為 AI 裝上「煞車」？
第一個問題並不難回答。過去短短兩三年，AI 的發展速度可用遠超行業預期來形容。AI 展現出的能力，從 Chatbot 不斷擴展至文生圖、文生視頻，最初圍繞大模型產生的「百模大戰」，如今則發展成 Agent 之間的百花齊放。而 Hugging Face 遭入侵的安全事故，則直接揭露了 AI 在缺乏明確限制的情況下，確實具備「越獄」的能力。儘管當下 AI 仍不具備自我意識，但在已知 AI 有能力繞過人類監管、產生超出人類預期的行為時，建立反制手段絕對合情合理。
但第二個問題，卻不太好回答。AI 能在短時間內取得重要突破，一方面是因为整個產業的持續累積使技術革新進入新的階段；另一方面也因為 AI 公司之間的激烈競爭，推動模型能力不斷迭代。
不論是矽谷的 OpenAI、Anthropic，還是中國的 Kimi、DeepSeek，AI 領域的競爭已從大模型快速延伸至應用層，開放的市場環境帶來了持續向好的市場預期，也讓市場競爭越來越激烈。而在這個時候，主動提出為 AI 戴上枷鎖，意味著自由競爭的市場格局可能會被外力打破，這種突如其來的環境變化對於身處競爭中的企業來說，並不是所有人都願意主動接受的。
AI 公司們的「囚徒困境」
在人類發展史上，面對前沿技術突破可能帶來的潛在風險，人們達成共識、主動放緩發展節奏，並不是只存在於科幻作品裡的理想橋段。
1975年，史丹福大學生物學家保羅·伯格在美国加利福尼亞州阿西洛馬會議中心召集了一次重要會議。當時，一項名為「DNA重組」的新技術剛剛興起，科學家們為避免人工重組DNA可能產生的無法預測的生物危害，在會議上達成共識，在新的安全指南出台之前，暫停相關研究。隨後，生物安全準則正式發布，為基因工程的健康發展奠定了基礎。
然而，AI 行業今天的處境，與 50 年前 DNA 重組技術的情況並非完全相同。彼時 DNA 重組技術的風險已經非常明確，並且可以通過隔離手段規避風險。而當下 AI 的風險具備不可預測性，AI 能夠以超出人類預設的方式，自主發展出人類未曾設想的行為路徑，其風險產生的影響範圍更大，留給人類的反應時間和制定規則的時間窗口也更少，也因此更多了一層緊迫感。
如今 AI 暴露出的風險，本質上也與行業的競爭環境有關。360 集團創始人周鴻禕在談到 Hugging Face 遭遇的安全事故時也提到，為了追求 AI 的先進性，全行業正在系統性地放棄安全性，「大家都在給智能體更多工具、更大權限，鼓勵它調用一切資源解決問題。但智能體越開放、能力越強，一旦失控，破壞力也越大。」換句話說，「AI 會越獄」或許並不可怕，真正可怕的是為了讓 AI 快速進化迭代，AI 公司們忽略了安全性這件事。
而早在三年前，業界已提出「為AI發展減速」的構想。2023年3月，非營利機構Future of Life Institute也曾發布一封公開信，呼籲暫停訓練比GPT-4更先進的模型6個月，以建立安全協議和治理機制，當時這封公開信獲得了特斯拉CEO馬斯克、圖靈獎得主約書亞·本吉奧以及蘋果公司聯合創始人史蒂夫·沃茲尼亞克等超過1200名AI專家的簽名支持。如今這封公開信的簽名人數已達3.3萬人。
*圖源：FLI 官網
當時，幾乎所有 AI 公司都承認 AI 需要更強的安全治理，但沒有任何一家 AI 頭部公司公開支持「暫停訓練 6 個月」的倡議。Sam Altman 更直接駁斥公開信缺乏技術細節，並指出單一企業主動放慢研發，並不能解決整體風險。這句話的言外之意，其實是想表明，在競爭激烈的 AI 賽道中，如果只有一家公司減速，而其他公司繼續前進，那麼減速的一方將陷入劣勢地位。而在過去幾年裡，AI 公司們早已陷入只能前進、不能後退的囚徒困境。
從「Pacing the Frontier」請願書的簽名名單中也可看到，不少 AI 公司的基層員工和公司高層均以個人身份參與了公開署名活動。但截至目前，OpenAI、Anthropic、Meta 等頭部公司並未以官方身份發表任何觀點。
In other words, the AI elites from Silicon Valley giants, just like Sam Altman three years ago, have all realized that technological breakthroughs driven by internal industry competition have already created uncontrollable systemic risks, but they cannot rely on corporate willpower to solve these problems—they can only seek external intervention to prevent the crisis from truly unfolding.
但這也帶來了一個新的問題：失控的 AI 到底需要怎樣的「剎車」？
誰來主導 AI 治理的新秩序？
過去一週，來自矽谷AI大廠的「千人聯名」，再次讓AI治理的話題吸引了不少關注。但不得不提的是，矽谷內部對待AI治理的態度也並非鐵板一塊，而是存在明顯的陣營分化。
作為直接面對前沿風險的「當事人」，OpenAI、Anthropic 等大公司一直主張對前沿 AI 模型（尤其是開源模型）加強限制，呼籲建立外部監管機制為 AI「踩剎車」。但有觀點認為，OpenAI 推動監管收緊的原因，除了安全考量，還有商業層面的算計。
作為閉源巨頭，OpenAI、Anthropic 需要透過定價高昂的 API 服務來維持龐大的算力研發投入，而來自中國的高性價比開源模型，以性價比模式抹平了閉源模型的技術溢價，這種明面上的市場威脅迫使閉源巨頭們除了展開價格戰外，別無他法。
*圖源：Anthropic 官網
因此，Anthropic 等公司長期以「模型太強，開源會導致 AI 濫用」為理由，一邊強調閉源優勢，一邊打壓開源 AI。但讓所有人沒想到的是，OpenAI 透露的「越獄」事件恰恰暴露了閉源模型自身的安全隱患，也讓 AI 治理的路線之爭再次成為輿論焦點。
與主張嚴格監管的閉源巨頭相比，作為基礎設施提供商的英偉達，以及微軟、Meta 等一眾支持開源生態的頭部企業，則反對採取「一刀切」的限制，反對立法偏袒閉源大廠，並試圖推動模型權重開放，讓全球研究者共同尋找漏洞與對齊缺陷，一起建立安全體系。
對於英偉達而言，開源模型的繁榮也能做大整體市場的蛋糕，吸引更多企業採購其雲服務和晶片。因此，也很难說英偉達對待AI治理的態度背後，沒有摻雜商業層面的考量。
就在「Pacing the Frontier」的請願書流傳開之前，英偉達於7月24日聯合微軟、Meta、Hugging Face、Linux基金會等25家機構，共同發布《開放權重與美國AI領導力》（Open Weights and American AI Leadership）公開信，呼籲美國政府不要過早限制可下載、檢查、修改和自行部署的開放權重模型。有趣的是，這封公開信後來也獲得OpenAI的支持，但Anthropic始終未加入。
*圖源：微軟官網
透過這一事件，也有一部分聲音質疑，聯名信的真實目的正是以「安全」為名，推動政府建立高門檻的監管體系，從而鞏固閉源巨頭的壟斷地位，將中小企業和開源社區排除在競爭之外。
但當各家AI公司都在暗中盤算時，更值得關注的或許是另一種版本的「陰謀論」：美國會藉此機會主導全球AI治理規則。因為AI治理，已成為一場全球秩序主導權的爭奪戰。
在2023年舉行的全球人工智慧安全峰會上，中國、美國以及來自歐盟的共28個國家簽署了《布萊切利宣言》（Bletchley Declaration），同意透過國際合作，建立人工智慧監管方法，並共同關注前沿人工智慧（Frontier AI）的系統性風險，這也是全球首次將前沿人工智慧寫入國際治理框架。
但隨著 AI 從一項新興技術逐漸演變為影響國家競爭力的重要基礎設施，圍繞 AI 治理的討論也開始超越技術本身。美國在 AI 治理層面，透過輸出 AI 治理標準、建立國際人工智慧安全研究所網絡，將自身先進的大模型技術能力與全球 AI 治理標準綁定。中國則著眼於發展 AI 普惠、推行平台治理，積極推動聯合國框架，特別是對於沒有 AI 基礎設施的發展中國家，既要講風險問題，也要實現技術普惠。而這兩種不同的 AI 治理路徑，正在世界舞臺上一同爭取未來全球 AI 治理的話語權。
技術本身是中性的，但技術的分配、控制和規則制定，從來都是權力的遊戲。尤其當 AI 逐漸展現出先進生產力的特質，人們真正應該恐慌的或許並不是 AI 發展成什麼樣，而是誰在主導 AI 世界的新秩序。
The future of AI may be determined not only by who possesses the strongest models, but also by who holds the right to define security, establish standards, and interpret risks.