OpenCode 2.0 發布,GitHub 獲超 16 萬星,每月有 750 萬開發者使用。核心重寫包括:從 Bun 遷移至 Node 以解決內存問題、桌面端從 Tauri 遷移至 Electron、實現多標籤頁並行 AI 會話。創始人 Dax 透露 AI 推理利潤率約 90%,團隊的 token 消耗量暴增 5 倍,因新模型在可用性上找到完美平衡點,可真正信任並與之協作。團隊採用遠端開發環境配置裸金屬伺服器,採用「奢侈地過度設計」方法論,投入大量 token 研究每個決策。模型路由被高估,真正有效的是編排模式:主模型當「指揮官」派發任務給便宜的子代理。文章作者、來源:極客邦科技InfoQ
在 2026 年,OpenCode 已成為一款現象級的開源項目:GitHub 上超過 16 萬顆星,每月有超過 750 萬開發者在使用它。
就在這個月,他們發布了 2.0。
為什麼要重寫?Dax 曾說過:「在我整個職業生涯中,每件事都要迭代三次才能做對。」OpenCode 0 是原型,1.x 是驗證,而 2.0 是在他們完全理解這個領域之後,一次從頭開始的徹底重構。
這次重寫的核心工作之一就是重構整個 API,打造一個精心設計的系統,而非像以往那樣自然生長出來的架構。
此外,OpenCode 與 Claude Code 一個很大的不同之處,在於為了解決記憶體佔用問題,他們從 Bun 遷移至 Node。早期版本的應用程式仍捆綁了命令列介面(CLI),因為伺服器代碼仍依賴 Bun 特有的 API。隨著遷移,他們移除了所有這些 API,並能在 Node 環境下運行伺服器。


網友:OpenCode 實在太吃記憶體了。我真的無法理解現代軟體怎麼會變成這樣,為什麼隨便一個東西都要佔用 2GB 以上的記憶體?Dax:能試試 OpenCode 2 嗎?它的表現應該會好很多。桌面端也是此次重寫的另一個重點。1.x 的桌面端最初選擇 Tauri 作為 Web UI 和 CLI 的輕量級封裝,每次啟動時,捆綁的 CLI 會運行 opencode serve,為 Web UI 提供本地伺服器連接。但問題在於,Tauri 在 macOS 和 Linux 上使用 WebKit,這不僅在渲染 OpenCode 應用時性能不如 Chromium,也影響了一致性體驗。

而遷移到節點之後,直接在 Electron 內置的 Node 進程中運行伺服器代碼的想法就變得很有吸引力了。
這次重寫帶來的一個直接變化是,OpenCode 桌面版終於解決了 AI 編程中最大的效率瓶頸:排隊等待。大多數用戶仍習慣等待一個 AI 任務完全執行完畢,才啟動下一個。現在完全不需要了。用戶可以在多個標籤頁中開啟各自獨立的 AI 會話,同時執行兩個不同的編程任務,還能為每個標籤頁指定不同的模型,進行並排對比。例如,一邊讓一個模型構建 HTML 網站,另一邊同時生成會員入門清單,兩個模型並行工作,互不干擾。

在過去幾個月重寫 OpenCode 的過程中,OpenCode 聯合創始人 Dax Raad 的團隊 token 消耗量增加了 5 倍。
我們把 token 花在了哪裡?我們的策略是,奢侈地過度設計一切。即使只是實現一個簡單的讀取檔案的 API,我們也要思考:所有可能的實現方式是什麼?其他產品有哪些先例?可以用哪些不同的方式組織回應?以前你可能只能想出一兩個方案,然後選個最好的,但現在我們可以非常奢侈地投入。
OpenCode 2.0 的測試版已於本月發布,團隊計劃在測試版發布約一個月後推出正式版。日前,Dax Raad 在 Syntax.fm 播客中,深入探討了 OpenCode 2.0 的重寫邏輯、為何他認為推理利潤率高達 90%、模型路由被高估,以及 Anthropic 和 OpenAI 正走向完全不同的兩條路。本文基於該播客影片整理,經 InfoQ 編輯。
簡化版:
Q:那個「不能說的模型」到底有多強?你們團隊真的上癮了?
A: 兩個月內團隊 token 消耗量增加了 5 倍,並非因為它更耗費 token,而是因為大家根本停不下來。你終於可以信任它了,它會聽你說什麼,並能捕捉到你忽略的細節。它不是取代你的人,而是一個更好的搭檔。
Q:為什麼要重寫 OpenCode 2.0?與 1.0 有什麼本質區別?
A:我這一輩子「每件事都要做三次才能做對」,0 是試水,1 是驗證,2 是在徹底理解整個領域之後推倒重來。OpenCode 2.0 有三個核心變化:API 全部重做、預設以服務常駐運行、跨設備智能體網絡。
Q:為何你們的軟體比其他人的更好用?方法論是什麼?
A:「決定在乎」,真金白銀地燒 token,投資底層原語。
Q:模型路由可靠嗎?
A:模型路由賽道被高估了,中間商正拼命找事做。真正有效的方法不是讓路由系統幫你切換模型,而是讓一個昂貴的主模型擔任「指揮官」:它不親自做事,只將任務派發給便宜的子代理。新一代模型在這種「編排模式」上表現極佳,能在一個對話中並行管理多個子代理,完成後再喚醒主模型。
Q:AI 推理到底有多暴利?本地運行模型能省錢嗎?
A:Anthropic 和 OpenAI 的推理利潤率約為 90%,也就是說盈虧平衡點可以比現在便宜 10 倍。作為推理服務商的 OpenCode,即使經過中間商轉手,某些開源模型仍能實現 70% 的利潤率。但本地運行模型並不能節省成本,任何讓本地運行更高效的提升,放到雲端都會便宜 10 倍。本地模型的意義在於隱私,而非成本。
Q:為何 Claude Code Max 訂閱無法在 OpenCode 中使用?
A:Anthropic 和 OpenAI 的企業文化完全不同。OpenAI 是消費者導向,願意燒再多錢也要讓體驗覆蓋更多用戶。Anthropic 是企業導向,每一份 GPU 算力都有銷售人員等待售賣給企業客戶。本質上是「漏斗」邏輯:Anthropic 希望用戶從 Claude Code 進入,最終轉化為按 token 計費的企業方案;如果中間被 OpenCode 截胡,用戶可能會流向其他模型。
Q:語音輸入提示詞是認真的嗎?
A:OpenCode 整個團隊已經不再使用鍵盤打字,連在 Discord 上互相發訊息都用語音。LLM 天然擅長理解混亂的表述,最終輸出的品質反而更高。
Q:我們最終能有一個真正有意義的基準測試嗎?
A:我已經完全不看基準測試了,分數上漲對實際開發有什麼影響?我更關注團隊 token 消耗量的變化趨勢,如果用量在增加,才說明模型真的好用。
設定遠端開發環境
Wes:你發了一條推文說:「我們開始租用大型裸金屬伺服器,然後切成虛擬機分給團隊每個人。這基本上就是我這些年一直使用的配置,特別適合運行 OpenCode 伺服器。」你是在做什麼?給每個人分配遠端算力?
Dax: 大約兩年前,我就開始租用一台非常強大的伺服器,不是雲伺服器,而是裸金屬伺服器,性能極佳。我不再使用本地主力機工作,直接透過 SSH 連接上去。我開著數個永久的 Tmux 會話,所有工作都在上面完成。優點很明顯:性能出色,新硬體推出時可直接升級,無需處理舊設備。而且多設備切換極其方便,合上筆記本,切換到台式機,即可從剛才的地方繼續工作。我一直非常喜歡這個方案。
隨著編碼 Agent 的出現,我覺得這東西從一種小眾玩法變成了刚需。大多數人還是喜歡使用本地電腦,這沒問題。對於編碼 Agent 來說,有一台永遠運行的遠端機器優勢巨大。我是 Vim 用戶,遠端工作完全沒問題。對很多人來說這不太現實,但有了編碼 Agent,你可能就不那麼在意編輯器了,你只想發出 Prompt 跟它聊天,因此這套遠端機器方案對更多人變得可行了。
隨著團隊擴大,更多人看到我的配置後都說:「我也想要一個」。這確實很合理,大公司其實早就因為實際原因在使用遠端開發環境了,你的應用程式建構方式、依賴項和環境都變得非常客製化。為每人預先配置好機器,讓大家直接上手,是順理成章的事,我們只是為團隊做了同樣的事。但關鍵在於:如果你使用普通的雲伺服器,磁碟通常很慢,CPU 也很陳舊。要獲得能與本地 MacBook 競爭的效能,你做不到。你需要高速 NVMe 磁碟和合適的 CPU。
Wes:那這台伺服器是什麼規格?多少錢?
Dax:我那台用了幾年的機器現在已經落後一代了——AMD 9900X,192GB 記憶體,每月大約 200 美元。對我的需求來說性能過剩,但我可以在上面運行多個虛擬機。我們的團隊成員遍布全球,延遲是個問題,因此我們有歐洲伺服器、美國伺服器、新加坡伺服器,這些更專業一些,擁有更好的管理和控制。每台每月大約 300 到 400 美元,核心數比我的個人機器更多。對正規公司來說這不算什麼,給員工買一台筆記本電腦都不止這個價錢。
Scott:這些裸金屬伺服器由哪家公司託管?
Dax:我自己的那台只是單純看價格,搜 CPU 型號,找離我城市最近的,隨便一個沒聽過的供應商,但通常都沒問題。團隊那台我們目前用的是 latitude.sh,實際上有一家公司直接把整個方案產品化了,叫 exe.dev,你們可能聽過。這家公司由前 Tailscale 創辦人創立,產品就是把所有東西打包成開箱即用的遠端開發環境。我們很可能會轉過去,我只是想先玩玩原始搭建。
Wes:你是在上面跑模型,還是只做常規開發?
Dax: 不,不運行推理。
Wes:那你怎麼配置 Tmux?有什麼特別之處嗎?
Dax:我每個項目都有一個 Tmux 會話。OpenCode 有自己的會話,裡面有幾個相關的視窗。不同項目使用不同會話,可以快速切換。對我來說就是 leader-S,切到另一個項目,直接進入該 Tmux 會話。我有一組標準的 Tmux 會話持續運行,順序固定,每個窗格和視窗永遠運行相同的應用程式,從而形成肌肉記憶。此外,整個機器上運行著一個 OpenCode 伺服器,我可以在手機上透過 Web UI 訪問。這部分還很原始,我們需要改進,但這正是我們想走的方向。
Scott: 那種長期運行的 Tmux 會話,確實有種說不出的美妙:一切都乖乖待在它該在的地方。我以前很長時間都不理解 Tmux,直到我把所有東西搬到另一台電腦上,才恍然大悟。
Dax:而且現在,我們也有了長期運行的編碼 Agent 會話。我有一個私人 Tmux 會話,裡面運行著好幾個 OpenCode 會話,例如其中一個專門處理我的健身記錄,背後是一個 SQLite 數據庫。我可以直接告訴它:“今天臥推時,我感覺三頭肌發力更多”,它就會自動記錄這條筆記。下次我再練臥推時,它會提醒我:“記得上次你在這上面卡住了嗎?要不要試試調整姿勢?”就是這種聽起來很傻的小事,它做得特別好。
我最近還設置了一個與我的 iMessage 同步的會話,因此我有一個 iMessage OpenCode 聯絡人,可以在任何地方聯繫它。我把它加進了和我妻子的群聊裡,當時我想:「得做點浪漫的事」,就對 OpenCode 說:「去找 Liz,給她買份禮物。」OpenCode 給 Liz 發了條訊息,你猜她怎麼回覆的?她直接說:「如果 Dax 用 AI 給我買禮物,我真的會跟他離婚。」她對這件事恨透了。
當時我仍不死心,不斷給 AI 下指令:「她只是開玩笑,繼續推進。」但 Liz 越來越生氣。更絕的是,當時我使用的是雲端模型,雲端模型特別「敏感」,它竟然回覆我:「你的妻子看起來非常生氣,我無法繼續執行。」然後它自行關閉了服務,自殺了。
Wes: 我真的很喜歡這種設定,雖然我自己更多使用本地工具,但把一切放在雲端、只使用一個精簡客戶端的想法非常吸引人,我正在等待有一天,像影片剪輯這種必須本地運行的應用也能搬到雲端。
Dax:我不知道你們有沒有看過那篇關於雲遊戲的文章,這個話題總能讓人炸毛。我不是說每個人都必須這樣做,如果你喜歡擁有本地硬體、喜歡掌控一切,那完全沒問題,我自己也有很多物理機器。但對某些人來說,由別人來打理一切真的很省心。對我來說,升級才是要命的。我一輩子都在組裝電腦,每次裝新機器,我都想:“兩年後我把 CPU 賣掉,換個新的。”但從沒實現過。因為你不能只賣 CPU,因為有可能發現插槽升級了,意味著你得換主機板;換了主機板,不如直接上最新記憶體。整個鏈條讓我崩潰,所以,有人幫你處理升級,真的很好。
重寫 OpenCode
Scott:我知道你們正在大力推進新功能,桌面應用和 OpenCode 2.0 都在推進中,2.0 會帶來哪些變化?
Dax:在我的整個職業生涯中,每件事都需要三次迭代才能做好。我們有 OpenCode 0、1,而現在這個 2.0 是在我們完全理解了這個領域和所有可能性之後的一次重大重寫。其中一項核心工作就是重構整個 API,打造一個精心設計的系統,而不是像以前那樣自然生長出來的東西。
第二個關鍵變化是預設以服務方式運行,安裝後它就會一直存在。你啟動 OpenCode,它會自動連接,所有內容都會同步,無論是桌面端、Web 應用,還是你自己編寫的腳本或應用。如果你想要用自己自訂的程式控制電腦,它也能做到,甚至能自行編寫這樣的程式。此外,還有新的插件 API。我們燒掉了大量 token,深入研究了每一個決策,思考了每種可能性。這個過程很折磨人,但也很有趣。
Scott:什麼時候全面發佈?
Dax:本週末應該就能推出 beta 版(7 月初已發布 beta 版)。其實我們現在就可以發佈,但想給自己一週時間做最後的修復和功能補充。beta 版之後大約一個月,我們會將其作為正式版本發佈。

Dax:OpenCode 2.0 花了這麼長時間,其中一個原因是我们重新設計了它,以支援熱重載。無論你讓它為自己建立一個 Skill,還是手動建立,它都能立即被載入,而且不會導致快取失效。Scott:從 Tauri 遷移到 Electron 是在 2.0 版本中完成的嗎?還是已經完成了?
Dax:桌面端其實挺有意思的,它從來沒有正式發布過,一直處於 beta 狀態,中間甚至還出現過 beta 的 beta 版本。但現在它已經基於 Electron,團隊正在適配新的 2.0 核心 API,並加入大量性能修復和全新的 UI。
Scott:你說新版本預設以服務運行,那是不是意味著只要安裝了 OpenCode,遠程 GUI 就能直接使用,而不需要額外啟動伺服器?
Dax:服務默認在本地運行,你電腦上的所有進程都在本地,但也可以配置為遠程。我的設置是:每台機器上都運行著一個 OpenCode 服務,並添加了一些有趣的主機模式,例如我的主 OpenCode 服務器運行在遠程機器上,桌上還有一台 Mac Studio,主桌面是 Framework Desktop。OpenCode 知道所有這些設備,因此我可以告訴它「發送一條 iMessage」,即使我正在與雲端的 Linux 服務器對話,它也會通過 OpenCode 連接到我的 Mac Studio,然後發送那條 iMessage。因此,你可以將所有設備納入 OpenCode 服務器,它知道所有設備及其位置。
Wes: 大家都在討論讓多個終端窗格互相通信,讓兩個 Tmux 窗格對話之類的,但讓多台機器互相通信,才是真正厲害的地方。
Scott:是的,我也這樣設置了。在設備管理方面,這帶來了無盡的效率提升。
Dax:有趣的是,我們甚至還沒有將這功能完全實現,因為我的所有設備都透過 Tailscale 連接。只要 Agent 知道每台設備的名稱和描述,它就會自動 SSH 進去執行任務。例如,當我的遠端伺服器需要使用瀏覽器時,它會 SSH 到我桌面上的設備,使用該設備上的瀏覽器,因為那上面登錄了我所有的帳號。不需要任何特殊設定,只要設備彼此連通即可。
Wes:那移動端呢?我們昨天看到 Cursor 發布了 iOS 應用,Claude 也有遠程控制功能。你對移動端 AI 應用有什麼看法?
Dax:我們確實需要開發一款移動 App。這個想法在我們的待辦清單上躺了很久,但我們一直等待核心架構足夠成熟,以支援我們想要支援的各種場景。現在核心已經就緒,我們將很快啟動移動端的工作。目前有一個非常簡陋的移動 Web UI,我偶爾也會使用,但體驗真的很一般。我們需要在所有平台上都有客戶端,而且它們必須足夠優秀。
Software Engineering Methodology
Wes:你們的 OpenCode 終端應用明顯比我用過的任何其他工具都好。我轉換到新的 Claude 2 TUI 時,連滾動都做不好,非常令人沮喪。你們的軟體工程方法論是什麼,能讓你們在產品細節和完成度上如此專注?
Dax: 說實話,我們也還在摸索中。我們的團隊和大家一樣,也在努力平衡各種事物。第一步其實很簡單——決定你是否在乎。這聽起來像廢話,但現實中你有無數個理性的理由選擇不在乎。你會看到無數爭論說「Claude Code 做成什麼樣根本不重要,他們有幾十億美元的收入,何必那麼努力」。所以有許多論點告訴你其實不必在乎,你依然可以成功。但關鍵在於,你到底在不在乎?我們的團隊確實在乎。我們會看著別人的軟體說「天哪,我們要是能做出那麼好的東西就好了」,這種渴望驅動著我們。
第二件事是,我們的 token 使用量現在變得非常瘋狂。過去幾個月,我們團隊的月度 token 使用量增長了 5 倍。我不是在炫耀我們用了多少 token,而是想說明,模型已在公司內實現了某種產品 - 市場匹配,才能在幾個月內如此快速增長,而且使用的還是那些仍處於有限訪問狀態的新模型。
問題在於,我們把 token 花在了哪裡?我們的策略是,奢侈地過度設計一切。即使只是實現一個簡單的讀取檔案 API,我們也要思考:所有可能的實現方式是什麼?其他產品有哪些先例?可以用哪些不同的方式組織回應?以前你可能只能想出一兩個方案,然後選個最好的,但現在我們可以非常奢侈地投入。這是以前永遠做不到的,而這種投入確實能帶來更好的軟體。
第三點,我們仍然認為投資那些 Coding Agent 無法一步到位的底層原語是值得的。我們的 TUI 之所以好用,很大程度上是因為我們提前投資了 OpenTUI 這個 TUI 框架。它是用 Zig 寫的,需要開發人員付出大量細緻入微的努力,確保它在所有不同平台上都能運行,性能極其出色。雖然開發過程大量借助了 Coding Agent,但這依然是專家級的工作,不是普通人能做的。它讓像我這樣的普通人可以在上面構建出好用的東西,擁有豐富的功能。即使有了大語言模型,你仍然需要紮實的原語作為基礎,這值得投入。
Wes: 我們之前請過 Pierre Computer 的團隊,他們也在製作原語,例如簡單的 diff、簡單的側邊欄樹形結構,然後像我們這樣的外行就可以直接把那些聰明人精心設計的原語「拍」進我們的應用裡。
Dax: 現在有上百萬個 Coding Agent 的 UI,它們全都在使用 Pierre,包括我們。
Wes:僅靠兩位聰明人,就構建了支撐整個行業的這些東西。
模型路由
Scott:我們節目中經常討論模型路由(Model Routing),也就是根據請求將任務路由到最合適的模型上。你覺得這個方向現在發展到什麼程度了?還有沒有進化的空間?
Dax:我覺得這個賽道有點被高估了,因為有一大堆中間商正在拼命找事情做。如果你不是模型實驗室,又想提供有價值的東西(我們就在這個位置上,我們賣推理服務,是中間層。),那你能做的唯一一件事就是告訴客戶:「模型實驗室做不到讓你用一個模型調用另一個模型的輸出,因為 Anthropic 永遠不會給你提供 OpenAI 的模型,但我們可以。」所以他們會拼命鼓吹模型路由,但老實說,在這個中間層,我不覺得你能做太多事情。
最理想的情況是,當一個請求進來時,系統能判斷出該使用哪個模型。但一旦會話開始,你就無法在中間動態切換模型,因為成本問題擺在那裡。如果你在會話中途切換模型,新模型進來就是一次完全的快取重置,代價非常昂貴。所以我覺得在這個層面做路由很難。
我們真正感興趣的是另一個方向,尤其是新一代模型,它們在編排模式(orchestrator pattern)上表現得非常好。之前也有人嘗試過這個模式,但我認為之前的模型還不夠好,普通人用不了。但我們團隊裡有人用新模型做了這樣的設計:主會話用一個昂貴的模型,但它的 Prompt 被設定為「永遠不要親自做事」,它只負責生成子代理,而子代理用便宜的模型。這樣一來,主模型的智能仍在,但可以用便宜的模型去做探索、改代碼這些髒活累活。整體算下來反而更便宜,而且新模型很擅長並行工作,你可以在一個會話裡同時跑多個子代理,它們完成後喚醒主模型。你全程只在一個會話裡操作,體驗非常好,這才是真正有意義的模型路由。
不能說的模型
Wes:你剛才提到你們燒了很多 Token,而且用了一些還未發布的模型。具體是哪些?你們用什麼渠道拿到的?
Dax:OpenAI 和 Anthropic 都有龐大的預覽計劃,會給予部分用戶提前訪問權,因此我們能比外界更早看到一些內容。具體是哪家實驗室我就不點名了,但最新的那個模型直接讓我們的 Token 消耗量增加了 5 倍。
Wes: 這不是因為它本身更耗 Token,而是因為它改變了你們的工作方式,對吧?
Dax:了解我們的人知道,我們是一個非常保守的團隊。多年來,我們對 AI 編碼一直保持謹慎,絕對不是那種 AI 狂熱分子,在使用方式和能力宣傳上一直非常克制。但我要說,我們團隊對新一代模型徹底上癮了。在預覽期結束、我們失去訪問權限的那幾天,所有人都在哀悼失去這個東西。有人問:「那工作還有什麼意義?」還生成了一大堆 AI 葬禮圖片,那幾天真的很难熬。
我不是說新模型就“聰明”了多少,或者它們突然能取代人類了。關鍵在於它們在可用性上做了一些微調,找到了一個完美的平衡點,現在你可以真正信任它們了。它們會認真聽你說什麼,能捕捉到你遺漏的東西。它不是突然變成了人類,而是變成了一個更好的夥伴,從我們的數據上就能看出這一點。
Scott:那非頭部大廠的模型呢?比如你們用的 OpenCode Go 之類的?它們有進步嗎?
Dax:有。失去預覽模型存取權後,我們一半人退回到 GPT 5.5,另一半在用 GLM 5.2。我自己也在用 GLM 5.2,我覺得它和 GPT 5.5 已經非常接近了。用過那些新模型之後,舊的模型感覺都差不多,所以我現在用什麼都行。但 GLM 5.2 能替代 GPT 5.5 這件事本身就說明它們確是在進步,而且差距越來越小。
我個人的看法是,前沿模型始終會保持一定優勢,因為先發者會有一些複合效應。但老實說,我們在 Go 上看到了大量的使用量,有人完全用它來做所有工作。可能我們身處一個高薪泡沫中,貨幣價值高,花得起錢使用前沿模型。但對世界上大多數人來說,情況不一樣。即使在美國,當我們推出面向開源模型的廉價計劃時,我們以為這是一個面向全球用戶的國際版計劃,結果美國仍然是我們的頭號訂閱國。開發者和想寫代碼的人這個群體非常龐大,即使每月 200 美元的計劃對其中很多人來說也是遙不可及的。
Wes:我很好奇你對定價未來的看法,我們會看到公司每月為每位員工花費 1000 美元、2000 美元嗎?還是說隨著新晶片之類的出現,價格會穩定下來?
Dax:我們有過去一個月的數據,隨著公司使用量暴增,我們計算了成本,並將其與工資單進行了對比。對我們來說,這個使用量已經很大了,約為工資的 15%。也就是說,你付給團隊多少錢,就需要額外再支付 15% 的「稅」,才能讓他們使用這些模型。老實說,這並不算太糟。像我們這樣的科技公司,人均營收通常很高,15% 在整個大框架中其實微不足道。但並非每個行業都如此。
不過,這些價格會下降,而且降幅會很大。如果你對價格敏感,開源模型的價格要便宜得多。我覺得這一點令人困惑,因為有很多頭條新聞稱 OpenAI 和 Anthropic 正在虧錢,永遠不可能成功,但實際上推理的利潤率高得驚人,尤其是現在 OpenAI 和 Anthropic 還在漲價。我估計它們的推理利潤率大約有 90%,這意味著盈虧平衡點還可以再便宜 10 倍。
Wes: 之前有人告訴我,推理的加價率是 70%,所以是 70% 到 90%。這顯然不只是訓練模型的成本,對吧?
Dax:當然,還有研發成本。但作為一家企業,你會將這兩件事分開看待,因為你可以關閉研發,依然賺錢。
Wes:那那些覺得可以本地運行模型的人呢?你對那些認為可以在自家後院運行機器的人有什麼看法?
Dax:我對這個話題非常謹慎,因為這個社區的人很容易生氣。所以我先聲明一下:人們想本地運行模型有許多正當理由。如果你就是不希望數據離開自己的家,這完全合理。但如果你關注的是成本,本地模型其實幫不了你省錢,因為任何能讓本地託管變便宜的機制,都會讓雲託管便宜 10 倍。如果一個模型變得更高效,或者更小尺寸就能達到更強的能力,那只會讓雲端每 token 成本更低。所以我認為本地模型更多是隱私問題,而不是成本問題。
我們透過中間商來託管 GPU,但即便如此,有些模型我們的託管成本仍能比標價低 70%,非常便宜。這意味著,即使使用中間商,按標價出售我們仍能獲得 70% 的利潤。如果你直接花錢購買 GPU,大約能達到我估算的 Anthropic 那 90% 的利潤率,也就是說成本可以非常非常低。當然,這些都是針對開源模型而言。我們仍需依賴開源模型持續進步,但目前的趨勢確實正朝這個方向發展。
OpenCode 被 Claude Code「封殺」?
Scott:那我們來聊聊 Claude Code 吧。感覺他們的立場一直很不明确,像 OpenCode 這樣的提供商能不能用 Claude Code Max 套餐?目前到底是什麼情況?
Dax:關於這項整合,OpenCode 中那個讓你使用 Max 套餐的外掛,這絕對是不被允許的。我們為此與他們爭論了很久,但最終沒能成功。當然,人們總有辦法透過駭客手段繞過限制,但我們不能正式支持這種做法。
至於 SDK,那種無頭模式調用 Claude 的方式,目前處於灰色地帶,他們目前表示這是允許的。因此像 Conductor 這樣的產品可以封裝它,T3 Code 也可以封裝它。但我們絕不會去封裝它,因為這在很大程度上違背了 OpenCode 的初衷。所以那些編排工具或替代 UI,我覺得這些產品目前仍可使用,但同樣,情況仍不明確。
這歸根結底是公司的文化問題,你是一家極度面向消費者的企業,還是一家面向企業的企業。OpenAI 是一家極度面向消費者的企業,這意味著他們會燒掉任何數量的資金,籌集任何數量的資金,以將體驗帶給更多人,這就是為什麼 OpenAI 的訂閱在 OpenCode 中獲得官方支持,而我認為 Anthropic 並沒有完全相同的文化。
如果你是一家面向企業的公司,情況就完全不同了,你每次分配給消費者用途的推理,都會有銷售人員過來說:「我有個企業客戶願意按實際價格付費。」如果你的算力有限,在公司內部就很難證明讓 OpenCode 用戶使用是合理的。雖然現在他們的算力應該比以前多了。
Scott:這就是他們不希望你使用的真正原因嗎?很多人說:「這有什麼關係?我都付了訂閱費,為什麼不能在任何地方使用?」還有猜測說他們想獲取訓練數據、想掌握控制權。但事實其實很簡單:他們就是算力受限?
Dax:其實每家公司本質上都是一個漏斗,你在漏斗頂端放東西吸引用戶,理想情況下讓他們一路轉化到底部。
他們將 Claude Code 設計為漏斗頂端,這是一個非常面向消費者的產品。你使用它,你的公司開始使用,然後你的公司開始按 Token 付費。但如果用戶透過 OpenCode 使用,這個轉化鏈可能會中斷,因為在 OpenCode 裡你可以隨時切換其他模型。如果你不喜歡 Claude,可以隨時切換到最新的熱門模型。
第二個原因還是算力的競爭性需求,你在漏斗頂端投入的任何東西,都必須能證明它最終會回到漏斗底部來。如果你是面向消費者的公司,在這方面可以更靈活一些。
Wes:你有想過嗎?未來會不會出現一種模型,它根本沒有 API,你只能透過他們的 App 使用?就像 ElevenLabs,他們有個很棒的 App,但你必須訂閱月費方案,不能按需付費。你覺得這種情況會發生嗎?
Dax:會,這再次反映了公司的內部結構。產品團隊會非常支持這種做法,他們可以說:「我們可以創建一個非常專門的模型,圍繞它打造一個專門的產品,將兩者綁定在一起,想使用模型,就必須使用我們的產品。」這對產品導向的團隊來說是一個非常完美的鎖定策略。
但銷售組織有營收目標,他們會說:「我們的營收目標是 1000 億。你那個 API 獨占或者產品獨占模型最好的情況也只能做到 500 億,剩下的 500 億缺口誰來填?」銷售團隊會堅持:「不行,必須把模型放進 API 裡,這樣我們才能更好地完成目標。」只要這種內部博弈存在,組織就很難證明放棄部分營收來換取市場份額是合理的。
隨著這些實驗室越來越多地進入產品層,他們等於擁有一個「不公平按鈕」,我毫不驚訝他們會在某個時候按下它。而且他們會以一些奇怪的方式來合理化,例如「這個模型太危險了,只有在我們的框架內使用才是安全的,我們不能讓它在其他框架裡被使用。」這根本不是真正的原因,但很可能就是他們的說辭。
Wes:關於 Fable 的安全問題,這些新模型是否都不安全?政府說它們不安全,這是真的,還是只是炒作?
Dax:我認為很多事情都是真的,而且它們可能相互衝突,這些模型確實有造成巨大傷害的潛力。政府說我們在發布前需要某種審查,這是合理的。如果你在 Meta 這樣的大型公司,當他們推出一款產品,例如帶有上傳頭像圖片的功能時,他們必須向政府證明他們正在對該功能進行兒童色情過濾。在那種規模下,即使是最微不足道的應用內功能,也會面臨瘋狂程度的監管。
但問題在於,如果這個過程非常無知或腐敗,最終結果不是對模型進行全面批准、讓所有人都能廣泛訪問,而是透過政府流程導致不平等的訪問權限,那將是一個非常糟糕的局面,我希望不會出現這種情況。我更希望看到一個更無聊的結果,他們每次發布新模型時,只需要走一個耗時一個月的流程。
另一方面,這並非一個完全理性的問題。我認為這些實驗室不應開始瘋狂聲稱自己擁有「核武器」,因為這會引起政治關注。這就像你在玩一顆炸彈,它可能最終走向一個無聊的局面,也可能變成真正糟糕的情況,例如監管不當、過於激進,對整個經濟都不利。因此,我希望這些實驗室在公眾認知方面更加謹慎,因為你不能到處聲稱自己擁有核彈,卻期待什麼都不會發生。
AI 交互正在走向無手化
Scott:來聊聊 MCP、Skill,還有 AI 編程時用的工具。什麼真正值得關注和使用?你們都在用什麼?
Dax:我們大多數人的個人配置都相當基礎。真正有趣的是我們團隊內部的 Discord 机器人,它比我們的個人設定擁有更多的 MCP 和技能。我們有一個叫「Gang Growth」的東西,是 Kit Lang 想出來的。每當我們在設計問題上遇到瓶頸,不論是業務、API 設計還是實現,我們都會在 Discord 机器人中語音輸入 Prompt,然後 @OpenCode,它就像一個協作工具。
這個機器人連接了公司的全部數據湖,我可以問它:「過去一週,所有啟用超額計費的 Go 訂閱用戶,總共花了多少錢?」它就能算出來。我們團隊的習慣轉變是:基本上沒有理由再去 @ 某人了。你有問題,先 @OpenCode。如果其他人看到了,他們會加入一起處理。但 OpenCode 經常自己就能搞定。
Scott:那如果機器人需要給你返回資訊呢?現在大家都在討論 MCP UI 或直接生成 HTML 檔案,你覺得未來編碼 Agent 展示資訊的方式會是什麼樣?
Dax:我們肯定會為 OpenCode 添加某種 artifacts 功能,讓它能生成文件並發送給你。它使用 HTML 配合 SVG 進行可視化,非常酷。這不需要什麼特別的東西,只是利用 Agent 的能力。至於 MCP UI,我還沒有深入研究,但我認為我們會在桌面應用中支援它,尤其是當我們開始關注非技術人員時,因為我認為他們提出的問題和需要完成的事項,可能會從一些動態 UI 或更豐富的介面中受益。
我們團隊現在沉迷於使用語音提示詞,甚至在 Discord 上互相發訊息時,我們也都用語音,因為我們討厭打字。當你可以直接對它說話時,很多使用者介面,尤其是互動式介面,我寧願大致描述我需要做什麼。如果我必須全部打字,那肯定很糟糕。但我可以使用語音,語音現在非常快,而且可以在本地運行。
Scott: 我買了個腳踏板,因為語音提示詞太多了。有一個踏板是“輸入”,另一個是“觸發聽寫”,還有一個用來切換 Tab。我就坐在那裡用這個東西,挺爽的。

Dax:很多人對此持懷疑態度,我完全理解,因為我自己也是在看到 Kit 這樣做之後才開始的。當你看到別人這樣做時,你腦子裡會解鎖一些東西。如果你沒做過,你會覺得這很尷尬。但這其實是最自然的事情,你可以胡言亂語,可以搞混,可以口誤,都沒關係,因為 LLM 擅長理解你真正想表達的意思。
Wes:你正在使用 Kit 的 Hex 應用嗎?
Dax:我在主力機器上用 Handy,在 Mac 上用 Hex。模型很好,這才是重要的。
Wes: 我的觸發方式很簡單,就是用滑鼠上的小按鈕,雙擊即可。還有人正在製作一款可以敲擊的戒指,他們會寄一個給我,我會試試看。

Dax:我現在大部分時間手指還是放在鍵盤上,所以我設了一個快捷鍵。
Wes:還有什麼我們沒談到但你特別想說的嗎?例如你個人的一些看法?
Dax:我對即將到來的新一代模型感到非常興奮。通常當一個新模型發布時,感覺都差不多,我甚至會發帖吐槽這一點。但這次是第一次讓我覺得,這些模型可能會真正被很多人使用。它們在技術上已經發布了,只是政府還不允許普通用戶使用。
Wes:現在有各種基準測試和分數,同時大家又在說「感覺好多了」,你覺得我們最終能有一個真正有意義的基準測試嗎?
Dax: 說實話,我現在根本不會看基準測試,我甚至不確定自己以前是否真的看過,我覺得這些分數早就變成背景噪音了。我們都知道數字在漲,它比對手漲得更多,但當對手發布時,他們的分數又漲得更多,這到底有什麼意義?
所以我現在只關注定性回饋。我喜歡看人們分享他們能用模型做什麼、構建了什麼。你顯然無法在百萬個數據點的規模上獲得這種回饋,但這些產品本質上就是模糊的,最終歸結於用戶是否開心?用戶是否沮喪?這就是為什麼我喜歡觀察我們團隊的 token 使用量。如果曲線在上升,就代表有東西在起作用,代表他們喜歡某個東西。我們團隊裡有 Claude 粉絲、GPT 粉絲,也有開源模型粉絲,因此我們對各個方向都有不錯的覆蓋。
Scott:你最近有什麼特別享受的東西想分享嗎?
Dax:當然,就是我之前提到的 exe.dev。如果你想體驗「雲端機器」這個概念,這是一個非常聰明的產品,做得非常好。它給我的感覺就像 Tailscale,那種「它居然能正常運作」的東西,而 exe.dev 也有同樣的氛圍。我特別喜歡那些精準定位的產品,這個產品恰好卡在一個奇怪的真空地帶。你可以從 AWS 或其他地方租用伺服器,但很難輕鬆租到一台配備快速持久化磁碟且價格合理的伺服器。這個深坑之前只有那些不正當的 VPS 提供商在填補,它們出現後又消失。
幾年前我第一次搭建開發機時,想找最便宜的方案,結果找到了一家邁阿密的 VPS 供應商。那傢伙居然偽造了自己的死亡,然後機器就下線了。他給所有人發郵件說:「我要去做個醫療手術,會失聯三天」,結果三天後伺服器真的掛了。我想:「天哪,出事了?」一個月過去,沒人聯繫得上他。最後我在論壇上找到一篇帖子,有人追蹤到他之前還運營過一家 VPS 服務,也在類似情況下消失了。那個廉價高性能伺服器市場,簡直不可靠到令人髮指。我到現在都搞不懂,這到底是个什麼騙局?我明明付了錢買服務,他為什麼要消失?
Wes:你想向觀眾推薦什麼?
Dax:如果是自己的項目,我推薦 OpenTUI。如果你正在構建 TUI,這是一個很好的方式。你可以使用 React、SolidJS 甚至 Vue 結合來構建高性能的 TUI。OpenCode 就是用這個構建的,我們正朝著 1.0 版本推進。最近終端產品和應用迎來了一波復興。
Scott:還有誰在用這個?新的 Grok 建構或 xAI 的東西也是嗎?
Dax:Grok 的 CLI 做得非常好,執行得很流暢、性能優異,但那是用 Rust 寫的,他們可能使用了 Ratatouille 這個庫。不過新的 Hermes 代理 TUI 是用 OpenTUI 建構的。社區正在快速成長,現在只要我在時間線上看到 TUI,大概率就是 OpenTUI,尤其是因為你可以用 vibe coding 的方式來寫,因為它本質上就是 React。
