Özel AI modeliyle ilerleyin. Azure A100’larda 8B–30B kodlama modellerini test etmek için haftalar harcadım. Mimarimizi dönüştüren model hangisi? 137M parametreli, M2 Pro Mac mini’de 3 dakika 35 saniyede eğitildi. Microsoft’un FastContext’i, darboğazı ortaya koydu: depo keşfi, bir kodlama ajanının token’larının %46,5’ini tüketebilir. Yayımlanan deneylerinde ana ajan kullanımını %60,3’e kadar azalttılar. DeltaCode’da bu fikri daha da ileriye taşıdım: → Go, yasal depo bağlamını listeler → Özel 137M sıralayıcımız rutin seçimleri yönetir → FastContext 4B yalnızca belirsiz READ/GLOB/GREP keşiflerini işler → Özel Qwen3 4B kodlama ön kontrollerini yapar → Maliyetli modellere tüm bir depo değil, sıkıştırılmış kanıtlar verilir → Derleyiciler ve testler son karar yetkisine sahiptir Özel sıralayıcım şu sonuçları elde etti: • 57,97% kapalı Recall@5 • Standart modelden +5,80 puan daha yüksek • Recall@1’de +14,49 puan daha yüksek • Yönlendirilen dış durumlar için 73,33% Recall@5 • 0 yürütme yetkisi Verimlilik farkı muazzam: • 4B keşifçiye göre %96,6 daha az parametre • 27B–30B modele göre %99,5 daha az parametre • Sadece %0,3225’i eğitildi • Bu nedenle temel modelin %99,68’i donduruldu • Bu adaptör için tüm A100 maliyeti atlandı • Kaskad, rutin depo aramalarını yerel olarak işlediğinde bulut bağlam token’larında tahmini %35–55 azalma bekleniyor* Daha büyük modeller zekâ eksikliği nedeniyle başarısız olmadı. Başarısız oldular çünkü bir modele keşif yapmasını, akıl yürütmesini, biçimlendirmesini, kod yazmasını, araçları kullanmasını ve kendisini doğrulamasını istedik. Daha küçük modeller kazandı çünkü her birinin sadece bir ölçülebilir görevi vardı. Ücretli A100 deneyleriyle üretimde pahalı hesaplama gerektirmemenin nasıl yapılacağını öğrendim. Kodlama ajanlarının geleceği belki de büyük bir LLM olmayabilir. Belki de her biri tek bir görev için eğitilmiş, bağımsız olarak ölçülmüş ve son karar yetkisi verilmemiş küçük uzmanlardan oluşan bir ekip olabilir.