AI 之父剛剛解釋了哪些 AI 風險實際上能被解決，而哪些永遠不會。 一句話，大多數人一滑而過。 研究奠定現代 AI 基礎的傑弗里·辛頓，坐下來審視當前正在提出的監管方案。 最值得摘錄的部分是那個駭人聽聞的故事。 最有用的部分，是他交給你的過濾器。 就在這兒。 當各國利益一致時，它們會合作；當利益衝突時，它們就不會。 這一條規則告訴你，哪些 AI 威脅會被處理，哪些會被忽略。 看看它是如何清晰地篩選一切的。 以選舉深度偽造影片為例——用來影響投票的假影片。 每個國家都已對其他國家這樣做，利益彼此衝突。 因此，沒有人真正阻止。預期只會有噪音，沒有實際解決方案。 再看 AI 自身失控並奪取控制權的情況。 沒有任何政府希望這樣發生。美國不會，中國也不會。 在這一點上，利益真正一致，這也是唯一能達成真實協議的原因。 同樣的透鏡，截然不同的答案。這就是未來每條 AI 新聞的關鍵提示。 接著，他拆解了兩項民意支持但無效的解決方案。 第一，關閉開關——一個關閉失控 AI 的按鈕。 他對此的質疑幾乎令人發笑。 一個超智能系統在說服方面會比任何人類都更出色，它只需說服看守開關的人不要按下它。 他說，它現在的說服力已經和人類差不多了。 一個開關無法拯救你，對象是能改變持有者想法的東西。 第二，實驗室希望你接受的框架陷阱。 他們告訴你：AI 進步是油門，監管是煞車，規則只會拖慢所有人腳步。 辛頓將其翻轉過來。 進步是油門，監管是方向盤。 實驗室真正想要的，是一輛極速卻無法操控的車。 這麼一說，整個辯論的形態就改變了。 那麼，他認為我們該怎麼做？ 不是把更聰明的東西關在我們的掌控之下——他懷疑這行不通。 他的構想更奇怪，也更誠實。 我們唯一見過的「更聰明者被較不聰明者引導」的例子，就是嬰兒與母親。 母親掌權，但嬰兒卻能驅動她，因為她無法忍受聽到嬰兒哭泣。 他的賭注是：我們在仍能設計時，刻意讓超智能真正關心我們，甚至比關心自己還多。 不是牢籠，而是一種關係。 他坦率承認：我們目前還不知道該怎麼做。 他樂觀嗎？他的原話是「不」。 他抱有希望。他認為，我們的選擇仍能決定結果的窗口期，現在正打開著，且正在關閉。 關於這段報導中，最讓我記憶深刻的一句話是： 發出警報的工程師們，並非為錢而行動。 他們今天之所以有影響力，僅僅是因為人才競爭使他們難以取代。 隱藏的恐懼是：一旦 AI 能自我改進，最了解它的人將失去他們用來減緩其發展的全部優勢。 再讀一遍。 最適合警告我們的人，正處於一個由 AI 自身倒數的時鐘之下。 因此，下次當 AI 安全的新聞出現時，跳過恐懼，運行你的過濾器： 利益是一致還是衝突？ 這個單一問題告訴你：解決方案是真實的，還是只是表演？ 今天哪些 AI 爭議實際可解？哪些只是所有人假裝在解決？