Epoch AI 剛剛測量了 AI「思考」的成本,其下降速度是任何變革性技術史上最快的。 Epoch 是一家獨立研究機構,透過自身數據追蹤 AI 的發展軌跡:包括模型表現、訓練成本、晶片和資料中心。在 9 月 22 日的報告中,Luke Emberson 和 David Roodman 分析了在大約三年內,達成五個基準測試(數學、硬科學和技巧遊戲)相同表現水準的成本變化。 核心數據:自 2023 年以來,特定表現水準的成本每季下降約 47%,相當於每年便宜 13 倍。與歷史比較,這比 DNA 定序快 4 倍、比運算能力快 6 倍、比鋰電池快 18 倍,並比 1973 年前的電力快 54 倍。證據顯示,自 2021 年 11 月 OpenAI 全面開放 GPT-3 API 起,這一速度至少已持續至今。 2025 年 1 月 31 日,OpenAI 的 o3 在 GPQA Diamond(一項類似物理、化學和生物學博士水準的多選題測驗)中取得 75% 分數,每題成本約為 30 美分。不到 18 個月後,GPT-5.6 Luna 以每題 0.0004 美元(四百分之一美分)達成相同成績,成本下降了 725 倍。Epoch 將此比擬為新車價格從 5 萬美元暴跌至 69 美元。 下降速度因領域而異:遊戲解謎較慢(每季 39% 至 43%),數學則更快(每季 50% 至 52%)。當某個水準成為當前最佳時,價格會急劇下跌。在五個主要基準的平均表現中,最先進模型上線時每季下降 66%(每年快 75 倍);兩年後,降至每季 32%(每年快 4.7 倍)。他們的假設是:初期實驗室收取期權費,隨後開放與封閉競爭共同壓低價格。 他們也列出了限制。實驗室可能過度針對基準進行訓練;答對測驗不等於有實際價值;真實使用者未必總是選擇最便宜的前沿模型;觀察窗口僅有三年;此平均值可透過多種方式計算。 對於 AI 堆疊而言,訊息清晰:昨日的高價能力迅速變為大宗商品,推動大規模應用的關鍵是每項任務的成本,而非僅僅是新模型本身。對於 API 提供商而言,特定模型的異常利潤似乎是短暫的。Epoch 自身指出,這既是競爭的成因,也是結果。在他們的圖表中,最激烈的競爭主要出現在封閉模型之間。對投資者而言,推論利潤被壓縮;誰能獲得規模、誰能領先一個季度的成本,比「永恆模型」的敘事更重要。位居頂端最便宜的期權費迅速消失。 晶片與能源成本上升,但「思考」成本卻大幅降低。

