人類正全速向通用人工智慧前進，卻對那一天之後的狀況毫無準備。不是終結者那種情節，而是枯燥的部分：我們所依賴的每一個體系——法律、保險、銀行、軟體——都依賴經濟機制，而非圍牆來保障。攻擊這些系統的成本必須高於其收益，因此已知的濫用行為已被計入成本，其餘未被利用的部分則是因為發現它們需要聰明人的時間。而人工智慧讓這段時間變得免費，且能全天候運行。每個系統賴以建立的數學基礎，已經改變了。 過去，如果聰明人檢查過程式碼並未發現問題，程式碼就被認為是安全的。如今，任何人只需讓一個代理針對它，它就會無限期地檢查。Anthropic 的模型在今年夏天在最優秀的開源專案中發現了 2,300 個漏洞，其中一個在披露後僅 4 天就被利用。 醫院帳單系統假設沒有人會掃描每位病患的所有實驗室數據，以尋找額外的診斷代碼。但 AI 編碼工具正是這樣做的。Blue Cross Blue Shield 表示，這兩年內因此增加了近 10 億美元的索賠，其中 70% 的案例並未伴隨任何醫療照護的改變。 現金利息假設大多數人不會將資金轉入國債，因為這有點麻煩。但代理從來不會感到煩躁。 法律、醫療、稅務、政府表格：所有這些都建立在摩擦成本之上。而這些摩擦曾是屏障，如今屏障已消失。 有一個產業已為這個世界打造了整整十五年：假設每個參與者都是聰明、自私且不知疲倦的，並設計一個即使如此仍能產生良好結果的系統。這正是區塊鏈設計的原則。它曾是一項奇特的愛好，而現在，它將成為構建任何持久系統的唯一方式。