Subukan kong i-run ang isang 27B coding model sa aking 16 GB Mac, naturally, bumagsak ito. Tumagal ito ng 0.4 tokens per second, halos 200 segundo bawat tool call. Sobrang mahina haha. Ang parehong base model sa @darkbloomai ay sumagot sa loob ng halos 2 segundo. Kaya nag-run ako ng isang Eksperimento: maaari ba ang mga model sa network ng idle Macs ni Darkbloom na maging utak ng isang totoong coding agent? Ang setup: anim na Darkbloom models, ang anim na tool na kailangan ng isang agent (read, write, edit, shell, grep, glob), at coding tasks na ginawa nang totoo sa isang sandbox, na may bawat resultang sinuri nang maingat. Mga resulta: • 60/60 tool calls ay na-parse nang malinis • 67/71 multi-step tasks ay nalutas: pag-aayos ng bug, pagpapalit ng pangalan sa iba’t ibang file, paghahanap ng itinanim na AWS key, pag-patch ng SQL injection • Ang Qwen3.8 27B, Gemma 4 26B at GLM 5.3 Flash ay nakapag-achieve ng perpektong 12/12 • Kabuuang gastos ng bawat run: halos 7 sentimo (sobrang murang btw) Ang karaniwang pananaw ay ang open models ay sapat para sa chat pero sobrang unstable para sa agents. Nagsisimula akong isipin na iba ang sitwasyon. Dito nakasalalay ang kahalagahan. Ang coding agents ay gumagamit ng napakaraming tokens, at karamihan sa kanilang ginagawa ay pangkaraniwan: pagbasa ng file, paghahanap sa repo, pagpapatakbo ng mga test. Ang aking palagay ay maaaring i-run ang 25-40% ng mga turns ng isang agent sa @darkbloomai sa isang maliit na bahagdan ng presyo, habang nananatili lamang ang mga mahihirap na hakbang sa frontier models. Ito ay isang buong bagong kategorya ng demand para sa isang network ng idle Macs kung matagumpay ito. Ang Experiment 2 ay sinusubok ang eksaktong ito sa totoong traffic... darating na agad!!!
.✦ ݁˖I-share

Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.
