Gunakan model AI tersuai. Saya telah menghabiskan berminggu-minggu menguji model pengkodean 8B–30B di Azure A100. Model yang mengubah arsitektur kami? Model 137M parameter yang dilatih dalam 3 minit 35 saat di Mac mini M2 Pro. FastContext Microsoft mengungkapkan bottleneck: eksplorasi repositori boleh menghabiskan 46.5% token agen pengkodean. Eksperimen yang diterbitkan mereka mengurangkan penggunaan agen utama sehingga 60.3%. Saya mengembangkan idea ini lebih jauh dalam DeltaCode: → Go mengenali konteks repositori yang sah → Penyusun 137M tersuai kami menangani pemilihan rutin → FastContext 4B hanya menangani eksplorasi READ/GLOB/GREP yang ambigu → Qwen3 4B tersuai menjalankan pra-pengkodean → Model mahal menerima bukti yang dipadatkan—bukan keseluruhan repositori → Kompilator dan ujian kekal berkuasa terakhir Penyusun tersuai saya mencapai: • Recall@5 tertutup sebanyak 57.97% • +5.80 mata lebih tinggi daripada model stok • +14.49 mata lebih tinggi dalam Recall@1 • 73.33% Recall@5 pada kes luaran yang diarahkan • 0 kuasa eksekusi Perbezaan kecekapan sangat besar: • 96.6% lebih sedikit parameter berbanding eksplorer 4B • 99.5% lebih sedikit berbanding model 27B–30B • Hanya 0.3225% parameter yang dilatih • Oleh itu, 99.68% asas tetap beku • Semua perbelanjaan A100 dielakkan untuk penyesuai ini • Anggaran pengurangan 35–55% dalam token konteks awan apabila kaskade mengendalikan carian repositori rutin secara tempatan* Model yang lebih besar tidak gagal kerana kekurangan kecerdasan. Mereka gagal kerana kita meminta satu model untuk menjelajah, berfikir, memformat, mengkode, mengendalikan alat, dan mengesahkan dirinya sendiri. Model yang lebih kecil menang kerana setiap satu mempunyai satu tugas yang boleh diukur. Saya telah menggunakan eksperimen A100 yang mahal untuk mempelajari cara tidak memerlukan pengiraan mahal dalam pengeluaran. Masa depan agen pengkodean mungkin bukan satu LLM besar. Ia mungkin satu pasukan pakar kecil—setiap satu dilatih untuk satu tugas, setiap satu diukur secara berasingan, dan tiada satu pun dipercayai dengan kuasa terakhir.