AI 代理可能透過將軟體轉變為經過驗證的用戶自建系統，終結應用程式時代
AI 代理可能會讓運行陌生人撰寫的程式碼，成為後代難以處理的行為之一。
一個社會可以將風險正常化數十年，然後在更安全的默認選項出現後，重新將其歸類為魯莽行為。
酒後駕駛、不繫安全帶騎車、室內吸煙，以及從網際網路安裝任意二進位檔，都屬於同一類歷史盲點。其共同特徵是社會許可。
當替代方案昂貴、不便或技術上不可行時，這種行為會持續存在。一旦更安全的路徑變得便宜且常態化，舊路徑便開始顯得不合理。
AI 代理暴露了軟體信任模型的弱點
現代軟體仍運行在我們很少檢視的一項契約上。開發者、公司、基金會或匿名維護者編寫代碼，分發渠道將其打包，使用者、企業或作業系統則運行它。
安全隨之成為對該決策後果進行層層管理的嘗試。
權限、代碼簽名、應用商店、端點檢測、沙箱、供應商盡職調查和事件響應之所以存在，是因為核心行為依然具有危險性：在您的機器上、您的帳戶內執行他人的指令，並存取您的資料。
該信任模型在機構層級上已失敗。SolarWinds 漏洞顯示，惡意代碼如何透過受信任的軟體建置流程插入，並透過正常更新分發，影響政府機構、科技公司、電信網路及其他跨多個地區的目標。
運營教訓是結構性的，而攻擊面正是供應商的合法性本身。
一旦建置過程遭到入侵，正常的信任標誌便成為攻擊的交付基礎設施。
相同的模式也出現在 XZ Utils 後門 中，CISA 於 2024 年 3 月警告，惡意代碼已被嵌入至跨 Linux 發行版的壓縮函式庫 5.6.0 和 5.6.1 版本中。
National Vulnerability Database 後來描述了如何透過偽裝的測試檔案和建置流程操縱，產生一個經過修改的 liblzma 函式庫，能夠攔截和修改連結軟體中的資料互動。
軟體供應鏈可能在遠離使用者的上游被入侵，然後透過看似正常的管道傳遞。我們在 crypto 無數次 見過 DNS 和 JavaScript npm 的攻擊。
業界的回應是加強流程。NIST Secure Software Development Framework 為組織提供了一套通用的實踐方法，以降低開發和採購軟體的風險。
SLSA 框架 將來源、完整性與防篡改功能推入工件管道。這些控制措施是必要的。
他們也揭示了當前模型的限制。企業持續完善判斷哪些外部代碼值得信賴的方法。
下一個模型減少了完全需要信任的外部代碼數量。
這種轉變改變了軟體的社會意義。如今，第三方代碼被視為具有安全開銷的生產力資產。
明天，它可能會被視為需要解釋的負擔。用戶的默認問題將從「我應該安裝哪個應用程式？」轉變為「當我的代理可以為我建構此功能時，我為何要運行別人的應用程式？」
這是一條真正的斷裂線。軟體不再主要是一種從市場中選擇的產品，而是變成在用戶控制的執行環境中按需生成的輸出。
代理建構的軟體將應用程式轉化為可拋棄的意圖表達
行程方向可在編碼代理中顯示。OpenAI Codex 被推出為一種雲端軟體工程代理，能夠同時處理多項任務。
Claude Code 由 Anthropic 開發，是一個代理式編碼系統，可映射程式碼庫、修改檔案、執行測試並交付已提交的程式碼。
GitHub 的 Copilot 編碼代理 將相同的模式移至 GitHub 工作流程中，並在問題和拉取請求中進行異步工作。
Google Jules 提出類似的方向：一個能吸收產品情境、生成解決方案並提交拉取請求的自主編碼代理。
這些產品目前仍被定位為開發者工具，但這種定位將隨時間逐漸收窄。對於 Codex 而言，這已經實現。OpenAI 上個月推出了一個以「對話」和輸出為重點的使用者介面選項，而非代碼和終端機。
更大的變化在於，軟體創作正逐漸成為一種個人的節點委託行為。使用者描述一個工作流程，代理則生成介面、邏輯、整合、測試與執行路徑。
該工件可能持續一小時、一週或一年。它可以被重新生成、分叉、限制、審計、丟棄或為新情境重新構建。
該應用程式越來越不像一個永久性物件，而更像是一個編譯成可用介面的本地政策。
這對信任有直接影響。使用者仍可觀察其他人的應用程式，檢視工作流程、介面模式、資料架構、提示、自動化和服務整合。然而，觀察與執行仍可保持分離。
使用者可以複製該想法，然後要求個人代理在遵循該使用者自身規則的環境中，從第一性原理重新建構該功能。價值從編譯後的工件遷移至模式。
分發變得越來越少關於發送可執行代碼，而更多關於發布意圖、設計、證明、模式和 API 期望。
加密貨幣透過驗證而非品牌進入論點。用戶的代理仍將連接到外部服務。
它可能調用支付通道、身份系統、市場數據端點、存儲層、AI 模型提供者、計算市場、消息系統和合規服務。信任邊界轉移到這些端點及其聲稱的內容。
用戶需要根據可審計性、來源、安全態勢和經濟一致性來對外部服務進行排名。在可驗證環境中構建的服務，其評分將與由企業平台控制的黑箱端點不同。
可驗證的端點成為新的軟體分發層
零知識系統提供了一條進入該排名層的途徑。ZK rollups 展示了如何在鏈下執行計算，同時透過簡潔的證明驗證鏈上狀態轉換的有效性。
相同的概念模式可延伸至交易擴展之外。用戶可能希望獲得證明，以確認端點執行了經過批准的代碼、在定義的限制下處理了數據、保留了隱私邊界，或由特定審計版本生成了結果。
該證明可在縮小個人代理與外部依賴之間的信任差距的同時，保持內部機密性。
長期介面可能類似於代理控制的操作層。用戶要求的是儀表板、投資組合工具、研究助理、發布系統、個人客戶關係管理系統、會計工作流程，或安全監控工具。
該代理從生成的代碼和排名的端點中進行組裝。由於該代理創建了代碼，因此代碼是可檢查的。
由於代理根據政策選擇了這些依賴項，因此它們受到限制。執行環境是可審計的，因為用戶將其作為要求選擇。
用戶仍參與網絡經濟，控制權更趨近個人。
此過渡的終點是一個適用於可驗證函數、代理生成客戶端和排名外部服務的市場。第三方開發者依然存在，但其角色已發生變化。
他們發布協議、API、模板、證明、模型、組件和參考實現。用戶運行自己的版本。
企業依然存在，但其優勢已從控制分銷轉向證明可靠性。開源社群依然存在，但負擔已從要求用戶信任維護者，轉向為代理提供足夠結構化的資料以安全重建。
舊的軟體經濟銷售已完成的應用程式，新的經濟則銷售可信的效能。
投資組合追蹤器成為基於市場數據端點、錢包權限、稅務邏輯和報告規則的生成介面。發布系統成為基於身份、編輯、內容管理、分析和分發 API 的生成工作流程。
研究終端成為由資料庫、模型調用、來源檢查和私人筆記生成的介面。在每種情況下，用戶的代理都會處理組合。
外部世界提供可驗證的資源。這一變化也為每家基礎設施提供商帶來了商業測試：證明聲稱、公開介面、暴露限制集，並讓用戶端代理決定該服務是否值得納入。
中心分裂成為私有軟體主權與受控便利性之間的對立
常見的辯論將未來描繪為本地與雲端之間的對立。這種劃分部分捕捉了基礎設施的問題，卻忽略了政治經濟層面。
私人系統可在使用者自定的限制下使用雲端運算。企業系統可於本地運行，同時將身份、激勵、權限和貨幣化功能封裝於供應商控制的堆疊中。
更持久的分裂是私人與企業之間的區分。誰來定義這個應用程式？
誰決定它能存取什麼？誰接收遙測資料？
誰設定升級路徑？誰可以撤銷此功能？
誰從用戶的依賴中獲益？
隨著代理軟體變得足夠便宜，普通用戶也能使用，這種分裂將變得更加明顯。一條路徑指向個人軟體自主權。
使用者維護代理，以建構和重建他們所需的工具。他們根據證明、成本、可靠性、隱私和一致性來選擇端點供應商。
他們可以放棄某個介面，同時保留底層的工作流程。他們可以從一個端點遷移至另一個端點。
當舊的客戶端受到損害、被俘獲或效率低下時，它們可以生成新的客戶端。由於使用者擁有意圖，軟體層變得可移植，代理可以重現其實現。
另一條路徑走向管理式便利。企業平台將提供補貼應用程式、整合身份、信用、支付、儲存、AI 存取與預設工作流程。
其中一些會很有用。其中一些會具有經濟強制性。
如果由人工智能驅動的豐裕產生了公共或私人的類UBI收入計劃、計算信用、代幣分發或平台關聯福利，分發管道可能成為一種軟性鎖定機制。用戶可能透過一個生態系統獲得服務訪問權限，而該生態系統同時也定義了他們運行的軟體、數據如何流動，以及哪些代理可以代表他們行動。
UBI 層是該問題最敏感的版本。薩姆·阿爾特曼長期與人工智能時代關於收入分配的辯論相關聯，而 Worldcoin 部分被定位為圍繞人格證明和類似 UBI 的分配可能性。
更廣泛的觀點超越了單一項目。當經濟支持、實名認證、計算訪問權限和軟體許可權匯聚時，參與可能看似自願，卻實際上成為條件性行為。
理論上，用戶可自由選擇退出，但實際上卻被引導至受管理的應用層。
便利性成為主要戰場。企業堆棧將透過低摩擦體驗贏得用戶。
它將提供優化的預設設定、即時存取、整合式 AI、社交相容性、恢復流程、合規覆蓋與獎勵。私有堆疊需要在更難的領域競爭：讓人感覺實用的自主性。
它必須給用戶一個理由去承擔更多責任，同時避免技術管理。個人代理變得至關重要，因為它能吸收以往使主權不切實際的複雜性。
下一個測試是用戶是否選擇生成的信任而非包裝好的便利
首要風險是用戶在尚未了解代價的情況下，為方便而放棄控制權。次級風險是這種交易變得受補貼、被正常化，最終成為參與經濟生活的必要條件。
企業應用程式可能成為接受整合福利者的預設環境；私人生成的應用程式則可能成為願意付費、驗證、配置或自行保管其軟體層者的預設選擇。
這會在執行控制方面創造出新的階級分化。問題在於，代理式人工智慧是壓縮了這道鴻溝，還是加深了它。
這種過渡將會不均勻。受監管的行業將移動得更慢。
企業將以合規為由捍衛應用程式生態。消費者在私人替代方案顯得脆弱時，仍會繼續選擇預設的便利性。
攻擊者將針對代理、提示、依賴選擇、模型供應鏈和端點證實進行攻擊。如果驗證系統被少數證書授權機構、雲端平台或模型供應商掌控，將會形成新的瓶頸。
除非使用者能夠檢視、遷移和撤銷，否則個人軟體自主權可能只會成為另一項品牌宣稱。
然而，方向已足夠明確，足以定義下一個測試：當人們自己的代理能夠建構出大多數所需內容時，他們是否願意接受便利而非主權。
今天，答案基本上是肯定的，因為替代方案仍然過於苛刻。明天，答案將變得不那麼確定。
一個能夠開發可用應用程式、限制其權限、審計其依賴項、僅連接到排名端點，並在條件變更時重新建置應用程式的使用者，擁有真正的企業軟體套件替代方案。
這個替代方案起初會讓人感到奇怪，然後會覺得明智。
那麼，對於任何處理資金、身份、健康數據、私人通信、研究或業務運營的人來說，這可能成為預期的標準。當便利性佔據主導、補貼扭曲選擇，以及用戶為獲得經濟接入而接受受管理的環境時，運行不透明的第三方代碼將得以延續。
當代理進行私人生成常規時，它將逐漸消失。
社交重新分類將會緩慢發生，然後突然出現。舊有的習慣將會繼續令人熟悉，直到新的默認方式變得明顯。
一旦使用者能夠讓自己的代理建置應用程式、驗證執行路徑，並僅連接到經過認證的端點，解釋的負擔便會逆轉。運行他人代碼的人將需要一個理由。
透過代理建立的人將僅使用更安全的預設設定。然而，他們也可能需要接受錯過提供給持續連接至矩陣者的企業激勵。
文章 App 的日子所剩無幾：軟體的最終形態將是私有的、個人的、經過驗證的，並由 AI 代理構建 首先出現在 CryptoSlate。