微軟執行長剛剛稱 AI 為內部威脅 薩提亞·納德拉剛剛發表了一篇每個使用 AI 的人都應該閱讀的文章，一天內獲得 900 萬次點閱。 他整個觀點的精髓：「我們需要將智慧的供應與其控制權分離。」 他指出，每家公司現在都需要： -> 永遠不要讓一個模型自行檢查其工作 -> AI 所做的每項行動都必須留下人類可閱讀的紀錄。「如果無法被觀察，就無法被信任！」 -> 由公司決定 AI 可以接觸什麼，而非由 AI 自行決定 -> 從第一天起就假設模型已被入侵，人類隨時可以中斷任務 -> 當失敗發生時，要告知受影響的人 他最後一句話：「最值得信賴的超級智慧系統，不會是我們最信任其模型的那個，而是那個讓我們最不信任模型的系統。」 最瘋狂的是：這位說出這番話的人，正是全球最大的 AI 供應商之一的執行長，他正在告訴自己的客戶：不要相信這些模型。 我個人早在六月就建構了這個概念的微型版本：一份規則手冊，我的 AI 在夜間運作前會閱讀——它能單獨做什麼、必須詢問我什麼、以及永遠不能做什麼。同樣的理念，僅需一個檔案。詳見回覆中的連結