Hotz 警告 AI 編碼代理對加密貨幣項目構成系統性風險

喬治·霍茨——那位曾以破解 iPhone 而聞名、後來又逆向工程 PlayStation 3 的少年天才——對 AI 編碼代理的大規模部署發出了直言不諱的警告：這可能成為「該領域歷史上最昂貴的錯誤之一」。 在一篇名為《永恆的 Sloptember》的新部落格文章中，霍茨主張，基於代理的編碼系統並不能以可靠的方式「編程」。經過六個月的實際實驗——使用代理擴展 Tinygrad（他的開源深度學習框架）以及逆向工程 USB–PCIe 芯片的固件——他發現模式始終一致：代理能加速初期進展，但最終交給開發者的卻是一個脆弱、混亂且從未真正完成的產品。「代理把所有進展都提前完成了，」他寫道，「你拉下槓桿，希望收尾工作能自動完成，但從來不會。」他的指控直截了當：「代理無法編程，而我們意識到這一點的時間正變得越來越長。」更糟的是，他補充道，這些失敗極其隱蔽：「輸出是破損的，但這種破損正變得越來越難以察覺——這正是你對一個越來越精準的統計模型所預期的結果。」 為何此時至關重要 霍茨的文章發表之際，業界正出現明顯分裂。五天前，最知名的 AI 研究員之一安德烈·卡帕西宣布加入 Anthropic 的預訓練團隊，並稱未來幾年對大型模型而言「尤為關鍵」。卡帕西與 Anthropic 的管理層已公開擁抱代理式工作流程：Anthropic 執行長達里奧·阿莫代伊在達沃斯表示，該公司已有工程師讓模型生成代碼，僅僅審查結果即可。微軟也在 2025 年將 GitHub Copilot 轉變為完整的代理系統時大力推廣代理，執行長薩提亞·納德拉將此轉變與遷移至雲端計算相提並論。 霍茨則站在這場辯論的對立面。他與所謂的「萊昆/馬庫斯」觀點一致——揚·萊昆與加里·馬庫斯是兩位著名的懷疑論者，他們認為大型語言模型本質上只是複雜的模式匹配器，而非真正的推理者。霍茨警告，當公司將代理推廣至整個工程團隊時，對平均代碼品質的影響將是負面的：高績效者仍能發現並修正代理的錯誤，因為他們擁有緊密的回饋迴路；而低績效者則因代理的加持而能交付更多修補與 PR，卻無法察覺錯誤。他預測結果將是「大量劣質代碼的黃金時代，以及優質代碼的黑暗時代」。 針對有人可能辯稱這只是對被取代的恐懼，霍茨予以反駁。他援引了 Google 的 AFL（American Fuzzy Lop）等自動化工具，這些工具在未引發程式員存在性焦慮的情況下發現了大量漏洞，並指出在 AI 主導後，國際象棋與圍棋反而更受歡迎。他真正的擔憂在於組織層面：廣泛採用代理可能掩蓋了因速度提升而導致的代碼品質持續下滑。他甚至猜測，這種市場推廣可能部分是一種銷售策略：「我幾乎認為這是一種心理戰術，用來推銷代理。恐懼失去，是唯一能讓大公司行動起來的方式。」 對加密工程師而言的具體風險 對於加密與區塊鏈專案而言，霍茨的批評應特別引人警覺。智能合約是不容寬恕的：部署代碼中的微小漏洞可能導致資金永久損失。如果代理成為生成合約代碼的預設方式，風險不僅在於功能有缺陷，更在於系統性、難以察覺的漏洞將蔓延至 DeFi、NFT 系統與二層基礎設施——尤其是當團隊在缺乏嚴格審查、測試與形式化驗證的情況下依賴代理時。 應關注的事項 - 工具採用 vs. 流程：代理可加速原型開發，但團隊仍須維持嚴格的審查、審計與適當的形式化方法。 - 失敗的隱蔽性：預期會出現更多微妙的統計錯誤，這些錯誤能通過快速測試，卻在邊界條件下失敗。 - 組織激勵機制：監控公司是否因追求速度而壓過品質控制。 - 行業特定風險：在加密領域，應優先進行審計與鏈上安全檢查，再信任代理生成的代碼。 情境對立觀點 並非所有人都同意霍茨的觀點。卡帕西曾對代理持懷疑態度，但在近期模型改進後公開改變立場，並於 2026 年 5 月 19 日加入 Anthropic。Anthropic 工程師審查模型輸出而非親自撰寫每一行程式碼的做法，正是支持代理工作流程的實際論點。霍茨表示他曾嘗試同樣的放手策略，卻始終不得不回歸手動修復。 總結 霍茨的警告是一種謹慎呼籲，而非反技術主義：AI 代理確實強大，但其輸出僅是統計近似值——並非對謹慎工程判斷的替代。對於加密團隊而言，在缺陷成本極高的情境下，這篇文章及時提醒我們：若無嚴密審查與驗證，速度只會將創新轉化為傳染病。