人們明知 AI 會出錯，但監督或許並非好辦法。文章作者、來源：AIBase
《華盛頓郵報》近日梳理的一組研究，將 AI 對記憶的侵蝕推到了聚光燈下。麻省理工學院媒體實驗室教授帕蒂·梅斯帶領團隊，先讓 200 名受試者觀看 24 張日常照片——婚禮、街景、賽跑。
休息片刻後，一部分人重新觀看原圖，另一部分人看到的卻是經過 AI 篡改的版本：人臉表情被修改、畫面中硬塞進軍人，或憑空增添氣候變化景象。隨後的記憶測試讓梅斯自己都感到震驚：看過篡改圖的人，產生錯誤記憶的機率大幅上升，更可怕的是，他們對這些虛假記憶反而更加堅信。「這一切非常危險」，她做出了這樣的判斷。
這種現象並非孤立。針對政治事件、刑事案件甚至新電影的認知實驗陸續顯示，AI 生成的圖片與對話，能將根本未發生的細節烙入大腦，讓人信誓旦旦地「回憶」起虛幻場景——有人「記得」看過威爾·史密斯主演的《駭客任務》翻拍版，也有人「記得」一場從未出現過的政治醜聞。觀看一段犯罪影片後，經 AI 聊天機器人詢問的受試者，虛假記憶數量是對照組的三倍。
能力被外包，記憶與腦力雙雙縮水
比「記錯」更隱蔽的，是「不願記」。梅斯另一項仍在同行評審的實驗中，54 名受試者撰寫 SAT 風格的作文：一組純手寫、一組使用谷歌、一組使用 ChatGPT，頭皮電極同步記錄腦部活動。結果差異鮮明——獨立寫作者的大腦各區域連接最強最廣，使用 ChatGPT 者最弱；事後讓他們複述自己的文章，依賴 AI 的人幾乎想不起寫了什麼。記憶需靠注意力、主觀努力與資訊提取共同鞏固，而生成式 AI 恰好省去了這部分腦力。
賓夕法尼亞大學沃頓商學院的納夫與倫敦國王學院的肖，將這種趨勢稱為「技能退化」：人類逐漸不再鍛鍊機器能代勞的能力，「思考變成一件可選項」。證據已在專業領域浮現——2025 年《柳葉刀》子刊一項研究觀察了 19 名資深醫生近 1500 例腸鏡，常態化使用 AI 後，他們獨立檢出癌前病變的能力下滑約 20%。對孩童的擔憂更根本：核心認知能力尚未成長，就可能將腦力外包，從一開始就缺乏批判性思維的鍛鍊。
在瑞典馬爾默的 AI 倫理年會上，學者們反覆追問：當 AI 介入記憶，後果幾何？喬治城大學的西姆以 331 人進行了撞車動畫實驗，一組閱讀準確的 AI 摘要，另一組閱讀故意錯標的摘要，正確率分別約為 84% 與 45%——即使提前聲明「這是 AI 寫的」，誤導依然生效。她點破了一個殘酷悖論：我們指望「人工複核」來兜住機器錯誤，但 AI 已先改寫了人類用來判斷的記憶，這道防線可能從根本上失效。「大家明知 AI 會犯錯，但監督或許並不是好辦法。」當企業競相將 AI 塞進警方的執法記錄儀和醫院的病歷整理時，這記警鐘來得正是時候。