Anthropic 提出 AI 監管框架，包含自我監管與法律保障

Anthropic 泄露的草案立法將要求大型 AI 開發商撰寫並遵守安全框架，說明開發商如何應對風險和關鍵安全事件。Politico 於週五報道了該法案。Anthropic 執行長 Dario Amodei 在六月的一篇文章中倡導 AI 監管應類似於美國聯邦航空管理局（FAA）對飛機設計的最低標準。FAA 亦對飛機製造廠進行認證，並擁有重大權力可撤銷飛機適航認證。Anthropic 提出的安全框架將具有法律約束力，企業需向商務部提交年度合規聲明，但仍為實驗室保留了相當大的自我監管空間。Anthropic 決定推廣公司名義的立法，已引起 AI 安全倡導者以及接近川普政府的反監管人士的批評。

參議員瑪麗亞·坎特韋爾的提案將要求國家標準與技術研究院制定標準，作為評估人工智慧實驗室的依據。眾議員傑·奧伯諾爾特和洛里·特拉漢的《前沿法案》將要求實驗室制定符合商務部所列最低標準的計劃。《前沿法案》還將要求為大型人工智慧開發商頒發許可證的獨立驗證機構，由商務部監管。Anthropic 的草案則要求由商務部註冊並評級的獨立審計師，檢查人工智慧公司的安全措施。Anthropic 的方法將使政府對評估者的直接監督和權力減少。批評者警告，審計師的報酬依賴於人工智慧公司，可能促使公司選擇提供有利評估的審計師。美國創新基金會人工智慧政策主管塞繆爾·哈蒙德表示，該草案似乎與 Anthropic 公開強烈支持嚴格監管的立場不一致。

Anthropic 的草案將受規範的前沿模型定義為使用超過 10 澤（10 的 25 次方）次運算訓練的模型。《前沿法案》與加州的 AI 透明度與安全法則則採用 100 澤（10 的 26 次方）次運算作為門檻。多項條款，包括安全框架要求，僅適用於年收入超過 5 億美元或支出超過 10 億美元的大型實驗室。報告要求亦適用於較小的前沿開發商。AI 研究公司 Epoch AI 表示，2024 年發布的多個模型，包括 Google Gemini 和 Meta Llama 模型，其訓練運算量介於 10 至 50 澤之間。Epoch AI 評估，OpenAI 最近的 GPT-6 Astra 模型使用了 940 澤次訓練運算。前白宮 AI 沙皇、總統科學與技術顧問委員會共同主席 David Sacks 認為，Anthropic 希望推動對小型競爭對手造成負擔的法規。Sacks 表示，該草案最終將涵蓋大多數矽谷企業並損害初創公司，因為其定義包含微調與模型修改的運算。

Anthropic 的草案要求商務部在強制暫停前沿人工智慧發展前，須獲得法院裁決。商務部必須以優勢證據證明，存在對超過 50 人造成立即死亡或嚴重傷害，或造成超過 10 億美元財產損失的風險。Encode Action 的創始人兼董事長 Sneha Revanur 認為，政府需要更大的緊急應變彈性，並指 Anthropic 提出的保護措施是出於自身利益。特朗普政府今年早些時候曾使用法律上存疑的出口管制指令，關閉了 Anthropic 的 Fable 模型，這使 Anthropic 有理由尋求保護，以防止任意關閉。美國國防部高級官員、特朗普超級智慧工作小組的副主席 Emil Michael 周一告訴 The Information，政府仍保留出口管制權力，可要求人工智慧實驗室撤回模型。

Anthropic 的提議類似於參議員艾米·克洛布徹與參議院多數黨領袖約翰·圖恩在參議院商務委員會主席泰德·克魯茲協商下達成的立法。克魯茲和薩克斯此前曾支持預先取代各州 AI 法規，並採行極其有限的聯邦監管方式。Anthropic 可能試圖在經歷長期關係緊張後，向川普政府示好並展現其在 AI 政策上的建設性態度。一位在華盛頓從事 AI 政策的匿名人士稱 Anthropic 在散佈品牌化立法的行為很天真，並形容 Anthropic 的聯邦事務團隊急於表現出建設性。

Anthropic 的草案將優先適用於規範公共披露、事件報告和第三方評估的州法律。該草案不會影響其他規範兒童安全和公民權利的法律。然而，草案未明確說明各州是否仍可使用緊急權力關閉模型。Encode 的總法律顧問 Nathan Calvin 表示，這些優先適用條款範圍廣泛，並指出其中一項條款似乎旨在阻止各州執行中止 AI 模型開發、部署或內部使用的法律或司法命令。即將出台的 AI 立法很可能涉及國家標準與支持更快 AI 發展的倡議者所尋求的部分州法優先適用之間的權衡。多位國會山莊工作人員、政策倡導者和遊說人士預期，該陣營將在跛腳鴨會期中再次試圖推動優先適用。Anthropic 聯邦事務負責人 Anthony Cimino 表示，優先適用應能確保制定出比各州條款更強大、更廣泛的全國性政策，並強調 AI 安全的優先適用應當有限。