16 GB'lik Mac'mde 27B kodlama modelini çalıştırmaya çalıştım, tabii ki başarısız oldu. Saniyede 0,4 token hızla ilerliyordu, her araç çağrısı yaklaşık 200 saniye sürüyordu. Harika değildi haha Aynı temel model, @darkbloomai'de yaklaşık 2 saniyede yanıt verdi. O zaman bir deney başlattım: Darkbloom'un boşta olan Mac ağında bulunan modeller, gerçek bir kodlama ajanının beyni olabilir mi? Ayar: Altı Darkbloom modeli, bir ajanın ihtiyaç duyduğu altı araç (okuma, yazma, düzenleme, shell, grep, glob) ve her sonuç titizlikle kontrol edilen bir kum havasında gerçek kodlama görevleri. Sonuçlar: • 60/60 araç çağrısı temizce çözüldü • 71 çok adımlı görevden 67'si çözüldü: bir hata düzeltildi, dosyalar arasında yeniden adlandırma yapıldı, yerleştirilmiş bir AWS anahtarı bulundu, bir SQL enjeksiyonu düzeltildi • Qwen3.8 27B, Gemma 4 26B ve GLM 5.3 Flash mükemmel 12/12 performansı gösterdi • Tüm çalıştırmaların toplam maliyeti: yaklaşık 7 sent (çok ucuz değil mi?) Genel görüş, açık modellerin sohbet için uygun ancak ajanlar için çok kararsız olduğu yönünde. Ben ise bu görüşe başlamış olduğumdan beri ters düşüyorum. Neden önemli olduğunu açıklayayım. Kodlama ajanları devasa miktarda token tüketir ve yaptıkları işlerin çoğu rutindir: bir dosyayı okumak, deposunu aramak, testleri çalıştırmak. Benim tahminime göre, bir ajanın dönüşlerinin %25-40'ı @darkbloomai üzerinde çok daha düşük bir maliyetle çalıştırılabilir ve sadece zor adımlar öncü modellerde kalabilir. Bu, başarılı olursa boşta kalan Mac ağları için tamamen yeni bir talep kategorisidir. Deney 2, tam olarak bunu gerçek trafiğe uygulayacak... yakında çıkacak!!!