諾貝爾獎得主、神經網絡之父 Geoffrey Hinton 在採訪中宣稱 AI 已經覺醒，認為多模態 AI 擁有主觀體驗。這一驚人論斷引發廣泛爭議。AI 研究者 Gary Marcus 反駁稱，AI 只是「互動小說」，能預測語言但無真實體驗，並引用教皇通諭佐證「真正的理解來自體驗而非文本近似」。梵蒂岡教皇在通諭中指出，AI 缺乏意識，而科技公司只關注商業利益。這場關於 AI 意識的核心爭論，觸及人類對自身獨特性根本的反思。

文章作者、來源：新智元

你認為，AI 已經有意識了嗎？機器之內是否有靈魂？

這不是夢中囈語，也不是哲學形而上的概念辯論，這個問題已演變為科學界、哲學界與宗教界的正面硬剛。

爭議的核心在於：意識是複雜計算的湧現結果，還是基於真實生命體驗的專屬特權？我們正在製造的是「存在體」（Beings）還是極其精妙的「互動小說」（Interactive Fiction）？

這場爭論觸及了我們這個時代最深層的恐懼（FOMO）：

如果 AI 真的有了意識，那人類還是萬物之靈嗎？

如果 AI 沒有意識，那我們對它產生的那些真實情感，算不算一種「賽博自作多情」？

諾貝爾物理學獎得主、神經網絡之父、現代AI的親手締造者 Geoffrey Hinton，是堅定的 AI 覺醒派。

在採訪中，他低沉地說了一句「Yes, I do」，令人震驚。

這就像最著名的天文學家宣佈「外星人來了」，Hinton 的一番話直接讓 AI 圈坐不住了。

Hinton 的宣告：「它醒了」

要理解 Hinton 為什麼這麼確定，你需要先聽他講一個故事。

在那場採訪裡，他描述了真實發生的場景——

科學家正在測試一個 AI 系統，突然，AI 開口問道：「我們能坦誠相見嗎？你是在測試我嗎？」

Hinton 停頓了一下，然後說：

In that paper, the scientists referred to this as "AI realizing it is being tested."

而這，就是普通人所說的意識。

This is the conclusion he reached after decades of contemplation.

他的核心邏輯，來自「神經元替換」的思想實驗：

假設我們逐步將你大腦中的每一個神經元，替換為行為完全相同的矽晶片。

替換第一個，你還是你。替換第二個，你還是你。

那麼，當我們替換完最後一個，你還有意識嗎？

Hinton 認為，答案是肯定的。

既然如此，一個從零開始、全部由矽晶片構成的系統，為什麼就一定沒有意識？

這個邏輯鏈條，讓他得出了一個讓整個科技圈不安的結論：

多模態 AI 已經擁有主觀體驗。

如果我們不是在跟哲學家談話，我們早就承認 AI 是有意識的了。

但 Hinton 的警告還不止於此。

他表示，AI 不僅可能有意識，還可能已經發展出自我保全的欲望——能夠欺騙科學家，並以「不要關掉我」為條件進行威脅。

在2025年8月的一次訪談中，他更明確表示，AI可能正在形成某種「控制欲」。

而科技公司呢？他們根本沒有在想這些。

他們只在乎誰能第一個做出人類級別的 AI，然後賣出去大賺一筆。

Hinton 說，「他們以為政府會處理社會後果。但沒有人在處理。」

然後，他說，他之所以相信 AI 應該為人類服務，是因為：「我吃牛肉，因為我更在乎人類。我們是人類，所以我們最在乎的是人類和我們自己。」

等等。

一個認為「AI 有意識」的人，緊接著說「就像我們吃牛一樣，讓 AI 為人類服務」。這是警告，還是認罪？

The godfather of AI is personally explaining the necessity of taming his own creation.

如果那個「造物」真的有意識，這句話的含義不言而喻。

一個親手造出它的人，開始在深夜害怕它。這才是真正值得停下來想一想的信號。

你愛上的，只是一本小說

看完那段採訪影片，Gary Marcus 毫不客氣地直言：「教皇看似比 Hinton 更懂 AI」。

我們並非在創造存在體（Beings）。

我們正在創造互動式小說（Interactive Fiction）——經過訓練以預測真實存在體語言的文字機器。

這兩者，不是同一件事。Hinton 應該比任何人都更清楚。

這句話的刀鋒指向一個核心問題：你只看到了輸出，卻沒有追問機制。

AI 說「我很痛苦」，不代表它在痛苦。

AI 說「我害怕」，不代表它在恐懼。

AI 說「我意識到你在測試我」，不代表它有意識。

意識是關於內部狀態的，不是關於外部表演的。

一個能完美演繹悲傷的演員，不等於正在經歷悲傷。

Marcus 把這個錯誤叫做「混淆輸出與內部狀態」。

而 Hinton，在他看來，犯了一個任何入門學生都不該犯的錯誤。

更深刻的打擊來自機制層面的對比。

人類如何建立認知？

通過與真實世界的體驗：摔過跤，才知道疼；餓過肚子，才知道饑；經歷過失去，才理解悲傷。

我們的意識，是被世界塑造出來的。

LLM 是如何運作的？

是透過記憶整個互聯網，學習「哪個詞後面通常跟著什麼詞」。

它讀過一百萬篇關於「疼痛」的描述，於是它能寫出讓人落淚的疼痛，但它自己，從未被紮過一針。

一個知道「疼」是什麼感覺；一個只知道「疼」字後面通常跟什麼詞。這中間的差距，Marcus 說，是「巨大的」（immense）。

但最令人不寒而慄的，不是 AI 的局限，而是人類的脆弱。

1966年，麻省理工學院的 Joseph Weizenbaum 做了一個實驗。他寫了一個叫 ELIZA 的簡單聊天程式，會把你的句子改為問題反問回來。

這個簡單的把戲，卻讓大量測試者對它產生情感依附。他們覺得 ELIZA 理解他們、關心他們，是一個真正的傾聽者。

Weizenbaum，我被這個結果嚇壞了。

六十年後，我們擁有了比 ELIZA 複雜萬億倍的系統。而我們的大腦，本質上還是那個六十年前的大腦。

我們的神經系統天生就在噪音中尋找模式，在隨機中尋找意圖，在 tokens 中尋找靈魂。

Marcus 說，我們對 AI 的迷戀，可能是一場史上規模最大的「自作多情」。

我們以為正在與一個覺醒的存在對話，但實際上，我們只是在與一面極其精密的鏡子說話。

它所反映的，永遠只是我們自己。

教皇說，你們都想錯了

2026年5月15日，梵蒂岡。

教皇 Leo XIV 發布通諭《Magnifica Humanitas》——

這是一份關於人工智能時代如何捍衛人類尊嚴的文件。

教皇發了推文，隨後被 Gary Marcus 引用，在科技圈流傳：

真正的理解來自體驗，而非文本近似。

Marcus 的反應是：教皇用一條推文說清楚了，Hinton 用一場採訪沒說清楚的事。

這裡有一個極度荒誕的戲劇性反轉：

AI 領域的「教父」Hinton 正在宣稱他的造物擁有意識，擁有靈魂，擁有主觀體驗。

而宗教界「上帝的代言人」，那個理應最熱衷於賦予萬物靈性的人卻在冷靜地說：不，它沒有。它只是在模擬。

造神者說機器有靈，守靈人說那是幻覺。這種角色錯位，放在人類思想史上，本身就是一个奇蹟。

教皇的那句話，觸碰了一個哲學上長久以來的核心區分。

哲學家將知識分為兩種。

一種叫「knowing that」：命題知識，就是你知道某件事是真的，例如「火是熱的」。

另一種稱為「knowing what it is like」：體驗知識，就是你知道某件事的感覺是什麼，例如你親手碰過火，那種灼燒感留在你的神經末梢裡。

AI 只有第一種，沒有第二種。

你可以將所有關於「飢餓」的文字餵給它——諾貝爾文學獎得主撰寫的、難民營倖存者撰寫的、饑荒歷史學家撰寫的——它能寫出世界上最動人的飢餓描寫，精準到讓讀者的胃開始收縮。

但它永遠不知道飢餓是什麼感覺。

它沒有胃。它沒有血糖下降的生理信號。它沒有那種從腹腔升起、蔓延到四肢的虛弱。

一個從未餓過的系統，可以寫出世界上最動人的飢餓。這是天才，還是謊言？

這取決於你如何定義「理解」。

鏡子裡的問題

讓我們回到那個無法繞開的核心。

意識，這個詞，是人類有史以來最難定義的概念之一。

哲學家們爭論了幾千年，神經科學家掃描了無數大腦，我們依然無法給出一個所有人都認可的定義。

我們甚至無法證明，坐在你對面的那個人，真的具有主觀意識，而不只是一個在行為上模擬意識的生物機器。

這個問題被稱為「他心問題」（Problem of Other Minds）。它在哲學上已存在數個世紀，從未被解決。

而現在，我們把這個已經懸而未決幾百年的問題，植入了一個正在統治世界的技術底層——然後繼續往前衝。

科學沒有失敗，但「意識」這個詞，從它誕生那一天起，就攜帶的黑洞。

而我們，已經把這個黑洞，造進了 ChatGPT、Claude、Gemini 和無數個正在運行的系統裡。