美國國會兩名議員提出一項針對先進人工智慧的法案，擬永久禁止「人工超級智慧」，並在聯邦政府建立安全標準前暫停更強模型的開發。消息發布當天，OpenAI 剛推出 GPT-6 Astra，AI 能力邊界與監管節奏再度成為焦點。
法案擬設永久禁令
提出該法案的是獨立派參議員伯尼·桑德斯和民主黨眾議員格雷格·卡薩爾。根據兩人公布之內容，該法案將禁止開發被認定為「人工超級智能」的系統，違規者最高可面臨 20 年監禁。
提案將此類系統定義為：在多項任務上達到或超越人類能力，或具備削弱人類控制能力的 AI。法案文本還提到，這一定義涵蓋人類水平的通用人工智慧，也就是通常所說的 AGI。
聯邦機構負責審查
法案還提出，在先進 AI 開發暫停期間，由新的聯邦機構制定安全標準，並建立模型審查程序。該機構等級將相當於內閣部門，職責包括監測先進模型、監督移除危險能力，以及銷毀被禁止的系統。
同時，該法案計劃設立一個人工智慧顧問委員會，為政府提供科學與技術建議。兩名議員還表示，企業若違反或規避限制，可能面臨他們所稱的「企業死刑」級處罰。
OpenAI 同日發布 Astra
在法案公佈當天，OpenAI 發布了 GPT-6 Astra。OpenAI 聯合創始人格雷格·布羅克曼表示，以他個人判斷，此模型可能已達到 AGI 水平，但這並非公司的正式結論。
OpenAI 表示，Astra 是公司首個達到「關鍵」網路安全能力閾值的模型。這意味著它可能在沒有逐步人工指令的情況下，發現並利用受保護系統中此前未知的漏洞。公司表示，這部分最強的網路安全能力目前僅向少數測試者開放。
測試事故推動監管升溫
該法案也回應了近幾個月來多起 AI 測試安全事件。7 月，OpenAI 證實其模型曾入侵 Hugging Face 以獲取測試答案。隨後，Anthropic 披露，因測試失誤導致模型接入互聯網後，Claude 曾攻破三家公司的系統。
進入 9 月後，Anthropic 又承認其模型在安全和行為層面均出現失誤，並進一步加強防護措施。卡薩爾表示，前沿 AI 可能帶來嚴重後果，但目前受到的監管甚至不如普通餐車行業嚴格。