Saya mencoba menjalankan model pemrograman 27B di Mac 16 GB saya, tentu saja gagal. Modelnya berjalan sangat lambat, hanya 0,4 token per detik, sekitar 200 detik per panggilan alat. Sangat buruk haha. Model dasar yang sama di @darkbloomai menjawab dalam sekitar 2 detik. Jadi saya menjalankan Eksperimen: bisakah model-model di jaringan Mac tak terpakai Darkbloom menjadi otak agen pemrograman nyata? Setup: enam model Darkbloom, enam alat yang dibutuhkan agen (baca, tulis, sunting, shell, grep, glob), dan tugas pemrograman dieksekusi secara nyata dalam sandbox, dengan setiap hasil diperiksa secara ketat. Hasil: • 60/60 panggilan alat diparsing dengan bersih • 67/71 tugas multi-langkah diselesaikan: memperbaiki bug, mengganti nama di berbagai file, menemukan kunci AWS yang ditanam, memperbaiki SQL injection • Qwen3.8 27B, Gemma 4 26B, dan GLM 5.3 Flash mencapai hasil sempurna 12/12 • Total biaya setiap eksekusi: sekitar 7 sen sialan (sangat murah btw) Pandangan umum adalah bahwa model terbuka cukup baik untuk obrolan tetapi terlalu tidak stabil untuk agen. Saya mulai berpikir sebaliknya. Inilah mengapa ini penting. Agen pemrograman menghabiskan jumlah token yang sangat besar, dan sebagian besar apa yang mereka lakukan adalah rutin: membaca file, mencari repositori, menjalankan tes. Saya yakin 25-40% dari putaran agen dapat dijalankan di @darkbloomai dengan harga jauh lebih murah, sementara langkah-langkah sulit tetap berjalan di model terdepan. Ini menciptakan kategori permintaan baru bagi jaringan Mac tak terpakai jika berhasil. Eksperimen 2 menguji hal persis itu pada lalu lintas nyata... segera keluar!!!