source avatar.✦ ݁˖

分享

我嘗試在我的 16 GB Mac 上運行一個 27B 的編程模型,當然失敗了。它慢得像爬行,每秒僅 0.4 個 token,每次工具調用約需 200 秒,簡直糟透了,哈哈。 同一個基礎模型在 @darkbloomai 上僅需約 2 秒就能回覆。於是我進行了一項實驗:Darkbloom 的閒置 Mac 網絡上的模型,能否成為真實編程代理的大腦? 設置如下:六個 Darkbloom 模型、代理所需的六種工具(read、write、edit、shell、grep、glob),以及在沙盒中實際執行的編程任務,所有結果均經過嚴格驗證。 結果: • 60/60 次工具調用均被清晰解析 • 67/71 個多步任務成功解決:修復 bug、跨文件重命名、尋找植入的 AWS 密鑰、修補 SQL 注入漏洞 • Qwen3.8 27B、Gemma 4 26B 和 GLM 5.3 Flash 均完美完成 12/12 個任務 • 每次運行的總成本:僅約 7 美分(真的超便宜) 普遍觀點認為,開源模型適合對話,但用於代理時過於不穩定。我開始懷疑這種看法。 這為何重要?編程代理消耗大量 token,而它們絕大多數操作都是例行公事:讀取文件、搜索倉庫、運行測試。我猜測,代理 25–40% 的輪次可以運行在 @darkbloomai 上,成本僅為一小部分,只有複雜步驟才留在前沿模型上。如果成功,這將為閒置 Mac 網絡創造全新的需求類別。 實驗二將在真實流量中測試這一想法……即將推出!!!

No.0 picture
免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款和風險披露 。