加州州長紐森簽署了里程碑式的AI監管法案，要求萬億參數級模型上線前須通過紅隊演練與第三方審計。

文章作者、來源：AIBase

美國加利福尼亞州州長加文·紐森（Gavin Newsom）正式簽署了一籃子具有里程碑意義的人工智慧監管法案。值得注意的是，這批旨在強化前沿大模型安全風險評估、透明度披露以及防範災難性網路攻擊的新法案，在此前的立法博弈中獲得了包括 OpenAI 與 Anthropic 在內的多家矽谷 AI 頭部企業的罕見背書與公開支持。

在上線萬億參數級模型前，須通過「紅隊演練 + 第三方審計」

近年來，隨著生成式 AI 算力規模的指數級擴張以及前沿基礎模型自主能力的躍升，對 AI 可能被濫用於關鍵基礎設施破壞、自動化生化武器研發、大規模深度偽造操縱以及嚴重網路安全漏洞利用的擔憂日益加劇。由於美國國會層面在聯邦級 AI 立法上持續停滯，加州州議會近年來承擔起全美 AI 立法急先鋒的角色。

本次簽署的多項法案重點聚焦於將超大規模基礎模型的安全測試標準法定化，要求模型開發者在訓練與部署萬億參數級前沿系統前，必須執行標準化的紅隊對抗演練、建立嚴格的災難性風險緩解協議，並向州政府監管機構提交經第三方獨立審計的合規性安全報告。

與此前在矽谷引發激烈震盪、招致科技巨頭與風投機構強烈反對的激進監管提案不同，這攬子法案在起草與修訂過程中深度吸納了前沿 AI 實驗室的技術建議。Anthropic 和 OpenAI 此前曾對過於僵化、可能扼殺開源社區發展或將民事連帶責任無限擴大的條款表達過深度擔憂；經過密集遊說與條款微調，最終落地的法案更側重於建立透明的「前置風險評估框架」與「行業最佳安全實踐基準」，而非直接設定硬性技術封頂指標或推行缺乏可行性的懲罰性舉措，從而在法律框架內贏得了主要 AI 研發機構的協作支持。



Deepfakes must be watermarked; whistleblowers are protected by law

除底層安全審查外，法案還涵蓋 AI 生成內容的溯源標識與水印規範，要求平台和主要內容分發渠道對深度偽造的音視頻內容加註系統級數位指紋，以防範選舉虛假資訊氾濫與惡意人身欺詐。同時，法案為發現並揭發模型潛在重大安全漏洞的內部員工與研究人員提供了更明確的「吹哨人」法律保護，嚴禁企業透過嚴苛的保密協議剝奪技術人員向監管部門報告災難性安全隱患的權利。

This move marks California, as the global hub for AI research and development, having explored a regulatory pathway that is relatively recognized by the industry, balancing strict safety boundaries with maintaining industrial innovation vitality.