為何 AI 能記住所有人類知識,卻記不住「昨天」

iconTechFlow
分享
AI summary icon精華摘要
AI 與加密貨幣新聞突出顯示了 AI 記憶系統的一個關鍵問題。大型模型可以儲存大量的靜態知識,但卻難以處理動態且時效性強的數據,例如過往的互動。鏈上新聞展示了區塊鏈如何以不同方式處理時效性數據。計算能力與上下文窗口大小的物理限制迫使 AI 壓縮並有選擇性地保留過往資訊,這會影響即時情境中的決策。

作者:Hugo,Robonaissance

編譯:深潮 TechFlow

深潮導讀:從早期的 Atari 遊戲智能體到擁有數百萬上下文窗口的大語言模型,人工智能在跨越時間進行連續決策時,始終面臨著一個根本性的物理矛盾:模型能夠輕易容納人類既有的海量靜態知識,但在動態交互環境中,卻無法將過去的全部細節無損隨身攜帶。

在有限算力與上下文窗口的硬性約束下,如何在壓縮過去的同時準確提煉決定未來的核心狀態,不僅是解決「感知混淆」的技術突破點,更是當下自主智能體邁向真正持久記憶的底層邏輯。

定格畫面下的狀態悖論

這是《機器中的記憶、忘記與自我》系列第 3 期:當智能體無法隨身攜帶全部過去時,智能究竟如何跨越時間展開行動。

嘗試在任何一幀畫面定格經典的 Pong 彈球遊戲。

畫面中只有兩隻球拍、一個球和當下的比分。此時如果讓你說出球正在飛向何方,你根本做不到,即使給機器展示同一張靜態畫面,機器同樣無法判斷。

學者 Matthew Hausknecht 與 Peter Stone 在 2015 年關於學習玩 Atari 遊戲的智能體論文中直截了當地指出:“當前的單幀螢幕只能揭示球拍和球的位置,卻無法揭示球的速度。”

他們接著解釋了為何這至關重要:「獲知球的移動方向,是決定球拍最佳位置的關鍵要素。」

這個定格畫面是精準的,畫面上的每一處細節都處在它該在的位置上。但光憑這單幀畫面,依然不足以進行這場遊戲。

傳感器在當下這一瞬間所捕獲的,僅僅是一次「觀測值(Observation)」。

而智能體下一步行動所依賴的真實全局,則是「系統狀態(State)」。

在 Pong 遊戲中,觀測值與系統狀態在每一個單幀切片上都是彼此割裂的。因為球的移動方向是關於過去幾個瞬間的事實,任何一個孤立的瞬間都無法單獨包含它。

當眼前的即時輸入無法滿足決策時,一個表現良好的系統就必須從它的過去中向當下承載某些資訊。

但它所承載的永遠不可能是完整的過去。它所承載的只是一份摘要,而這份摘要的取捨,完全取決於它下一步需要預測什麼。

這種取捨決定了後續時刻擁有怎樣的資訊基礎。任何被摘要遺漏的細節,後續時刻都將永遠無法基於它做出反應。

四幀深度的記憶折中

Hausknecht 與 Stone 當時回應的系統,正是 DeepMind 的 Volodymyr Mnih 等人於 2015 年在 Nature 雜誌發表的 DQN 智能體。

DQN 能夠僅透過螢幕畫面學會玩數十款 Atari 遊戲,而論文作者在研發初期就已遭遇定格畫面的困境。

他們在論文的方法部分寫道:「由於智能體只能觀察到當前的螢幕,該任務屬於部分可觀察狀態,許多模擬器狀態在感知上存在混淆(Perceptually Aliased)。」

In other words, relying solely on the current screen image cannot inform the agent of the complete situation.

所謂「感知混淆」,是對日常困擾的一個精準學術描述。兩個截然不同的情境(例如球正飛向你的球拍,或者球正飛離你的球拍),在靜態畫面中會產生完全相同的圖像。

一個僅看圖像的系統被迫將它們視為同一種情境;如果這兩種情境需要執行完全相反的操作,系統必然會在其中一種情況下出錯。

他們的補救方法非常直接。網絡不再只接收一張螢幕畫面,而是將最近的幾幀畫面疊放在一起作為輸入。

在預設設定中取值為 4 幀,儘管該算法對取值 3 幀或 5 幀同樣具備適應性。

將四幀畫面並排放置後,球的運動就直接顯現為位置的變化。運動方向不再是一個需要抽象記憶的概念,而是變成了一個可以直接被看見的視覺屬性。

論文並未將這組堆疊的畫面稱為記憶。它本質上只是一個恰好比單一時刻更寬的輸入通道。

感知混淆與物理硬邊界

This input width has extremely rigid physical boundaries, which Hausknecht and Stone precisely described.

他們寫道:由於 DQN 是使用智能體最近經歷的四個狀態作為輸入進行訓練的,「如果某款遊戲要求玩家記住超過過去四屏畫面更久遠的事件,DQN 將無法掌握這款遊戲。」

對於 DQN 而言,倒數第五屏畫面之後的歷史,根本就不存在於它的輸入範圍之內。

這種基於固定滑動窗口的機制,直接揭示了機器智能在時間序列處理上的核心矛盾:無論窗口如何拓宽,邊界之外的資訊都會被物理抹去。

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款和風險披露 。