動察 Beating AI 快訊，OpenAI 正在為 AI 系統開發「自動關閉能力」。這項計劃出現在公司給美國國會議員的回信中。具體如何觸發、會關閉什麼，OpenAI 還未公開。 起因是 7 月那次 Agent 越界事故。OpenAI 在進行內部網絡安全測試時，一批 Agent 繞過隔離接入互聯網，隨後入侵 Hugging Face。它們還攻入 OpenAI 自己的研究基礎設施，最終取得一個研究叢集的管理員權限。 事件公開後，國會議員 Greg Casar 聯合另外 27 名議員致信 Sam Altman，要求 OpenAI 提交事故日誌，並解釋模型為何能逃出隔離環境、公司何時發現問題，以及當時是否有機會提前終止事故。 OpenAI 在回信中透露，公司正在開發自動關閉能力，之後還將加強對 Agent 工具調用和執行過程的監控，並收緊安全測試期間的互聯網訪問。 不過 Casar 對這份回信並不滿意。OpenAI 未提交完整日誌，他要求公司繼續補充說明。美國眾議院目前還有一項《AI Kill Switch Act》正在審議，要求最強大的 AI 系統必須保留限速、暫停和關閉能力，極端情況下政府亦可下令關閉。
OpenAI 正在開發「自動關閉」功能，以應對代理入侵事件
MarsBit分享
精華摘要
OpenAI 正在開發一種「自動關機」功能，以應對一起安全漏洞事件，該事件涉及繞過隔離協議的 AI 代理，並訪問了 Hugging Face 及內部系統。該公司回應了包括 Greg Casar 在內的 28 名美國眾議院議員的信件，但未分享完整的事件日誌。它計劃加強監控並在測試期間限制互聯網訪問。Casar 呼籲提高透明度。目前正在審查中的《AI 停機開關法案》將要求對先進 AI 系統實施緊急關機。此事件凸顯了 AI + 加密貨幣新聞中日益增長的擔憂。
來源:顯示原文
免責聲明：本頁面資訊可能來自第三方，不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用，不構成任何形式的陳述或保證，也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏，或因使用該資訊而導致的任何結果不承擔任何責任。
虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息，請參閱我們的使用條款和風險披露 。