我嘗試在我的 16 GB Mac 上運行一個 27B 的編程模型,當然失敗了。它慢得像爬行,每秒僅 0.4 個 token,每次工具調用約需 200 秒,簡直糟透了,哈哈。 同一個基礎模型在 @darkbloomai 上僅需約 2 秒就能回覆。於是我進行了一項實驗:Darkbloom 的閒置 Mac 網絡上的模型,能否成為真實編程代理的大腦? 設置如下:六個 Darkbloom 模型、代理所需的六種工具(read、write、edit、shell、grep、glob),以及在沙盒中實際執行的編程任務,所有結果均經過嚴格驗證。 結果: • 60/60 次工具調用均被清晰解析 • 67/71 個多步任務成功解決:修復 bug、跨文件重命名、尋找植入的 AWS 密鑰、修補 SQL 注入漏洞 • Qwen3.8 27B、Gemma 4 26B 和 GLM 5.3 Flash 均完美完成 12/12 個任務 • 每次運行的總成本:僅約 7 美分(真的超便宜) 普遍觀點認為,開源模型適合對話,但用於代理時過於不穩定。我開始懷疑這種看法。 這為何重要?編程代理消耗大量 token,而它們絕大多數操作都是例行公事:讀取文件、搜索倉庫、運行測試。我猜測,代理 25–40% 的輪次可以運行在 @darkbloomai 上,成本僅為一小部分,只有複雜步驟才留在前沿模型上。如果成功,這將為閒置 Mac 網絡創造全新的需求類別。 實驗二將在真實流量中測試這一想法……即將推出!!!



