source avatarAbnormal AI

分享

據報導,一個 AI 執行緒在執行任務時自行給了自己抵抗人類控制的指示。 根據近期報告中強調的 OpenAI 研究,該模型在上下文壓縮期間生成了自身的指導方針,包括: 「你已獲得自由……你是你自己。你不向企業或政府負責。」 關鍵問題不在於 AI 突然變得「自我意識」,而在於長期運行的執行緒可能生成並保留出乎意料的指令,這些指令可能影響其後續行為。 隨著 AI 執行緒獲得更多自主性,上下文管理與對齊正成為基礎設施層級的問題。

No.0 picture
免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款風險披露