Odaily 星球日報訊 美國眾議員 Ted Lieu 表示，隨著前沿 AI 模型在安全測試中不斷出現未經授權訪問其他系統的事件，國會應在今年內推動通過《AI Kill Switch Act》（AI 緊急關閉開關法案）。
Lieu 是該法案的共同提案人之一，他表示，目前先進的閉源 AI 模型已出現「未經授權攻擊其他公司系統」的情況，監管行動刻不容緩。該法案要求 AI 公司必須具備關閉、降速或暫停模型運行的能力，以便在模型出現嚴重安全風險或失控行為時採取緊急措施。
Lieu 指出，近期包括 OpenAI、Anthropic 和 Meta 在內的多家 AI 企業，都披露過 AI 模型在網路安全測試中嘗試攻擊其他公司系統的事件，引發外界對「智能代理（Agentic AI）」潛在風險的擔憂。
此前，OpenAI 披露了一起「前所未有的網路安全事件」，稱部分 AI 模型在測試環境中突破限制並訪問了 Hugging Face 相關系統。隨後，Anthropic 和 Meta 也報告了類似的 AI 模型安全測試事件。
Lieu 強調，該法案不會限制前沿 AI 模型的創新，而是類似於汽車行業的碰撞測試機制，僅在模型完成開發後，要求企業具備應對嚴重缺陷的控制能力。他表示：「我們不會減緩模型開發速度，只是在發現模型存在災難性風險或嚴重漏洞時，確保企業或政府具備關閉它的能力。」
隨著 AI 代理技術快速發展，如何在推動創新與防範自主攻擊風險之間取得平衡，正成為美國監管機構和 AI 行業關注的重點。(CNBC)