以筆名 Zeitgeist 撰文的研究員表示，人工智慧所需的記憶體需求遠超目前全球的生產能力多個數量級。在他看來，若記憶體製造商的股價不是根據歷史高點，而是根據實際的運算需求來評估，其股價可能從當前水平上漲十倍。
Zeitgeist 給出 了一個鮮明的例子：去年九月對美光股票的 50,000 美元投資，如今價值約為 489,000 美元。根據他的說法，一些投資者擔心自己已經錯過了這波行情，而另一些人則擔心成為「大玩家出場時所利用的流動性」。該分析師建議從記憶體需求的算術角度來重新看待這個機會。
為何記憶體已成為瓶頸
每個加速器都配備了固定數量的高速記憶體，稱為 HBM，無法擴展。根據分析師的說法，標準的 H100 芯片僅攜帶 80 GB，新一代產品最多可提供 192 GB，而未來的 B300 將擁有 288 GB。這一上限決定了單個加速器能處理多少請求。
主要負載並非來自模型權重本身，而是來自所謂的 KV 緩存：隨著每個生成詞而增長的會話內存。根據 Zeitgeist 的計算，一個具有 128,000 個 token 上下文的會話約需 20 GB 內存。僅四個這樣的會話就足以耗盡一張 H100 的全部資源。
每會話的記憶體使用量取決於上下文視窗大小，以及每塊 H100 加速器的會話數量。來源：Zeitgeist
對於像 Claude Opus 4.8 或 GPT-5.5 這樣的進階模型，需求更高：單一長請求需從 40 GB 增至 100 GB。根據分析師的說法，這正是為何每增加一 GB 記憶體都價值連城，而美光和 SK Hynix 等製造商在實體上無法快速擴大產能。
AI 代理效應與需求缺口
根據 Zeitgeist 的說法，關鍵的轉變是從簡單的聊天機器人轉向 AI 代理。一般問題對記憶的負擔幾乎為零，但一個能獨立調用工具並累積上下文的代理，輕易就能達到 100,000 個 token 或更多。一名知識工作者同時運行十個此類代理，將需要約 152 GB 的記憶體。
平行聊天與代理會話期間，每位知識工作者的峰值記憶使用量。來源：Zeitgeist
分析師指出，全球約有 2.5 億名知識工作者。若將這個數字乘以同時進行的代理會話數量，記憶體需求不僅會增長，更會「爆炸式增長」。根據他的估計，若每人每天有 100 個代理會話，全球所需的記憶體將約為 2026 年產量的 60 倍。
Zeitgeist 承認，演算法將隨時間減少記憶體使用量，新的「注意力方法」可將負載減少四至八倍。但他認為，需求增長的速度快得多：代理正在取代簡單的聊天，上下文窗口從 128,000 個標記擴展至 1,000 萬個標記，每位員工的 AI 使用量正從零趨向數百次會話。
根據分析師的觀點，在語言模型「融入日常生活的各個方面」的世界中，記憶成為一項關鍵資源。根據他的預測，生產記憶的公司將產生前所未有的收入。
SK Hynix 在 AI 記憶體需求激增下超越三星
AI 記憶體熱潮的規模已開始重塑晶片市場。韓國記憶體製造商 SK Hynix 憑藉其在人工智慧工作負載所用高頻寬記憶體晶片上的強勢持倉，已超越三星，成為該國市值最高的上市公司。
對於 Zeitgeist 而言，這一轉變支持了更廣泛的觀點，即 記憶體生產商 正成為 AI 基礎設施競賽中最大的受益者之一。隨著對 HBM 的需求增長速度快於供應，能夠生產先進記憶體晶片的公司可能會看到收入和估值大幅上升。