کسٹم AI ماڈل کے ساتھ جائیں۔ میں نے Azure A100s پر 8B–30B کوڈنگ ماڈلز کا ہفتے بھر ٹیسٹ کیا۔ ہماری آرکیٹیکچر کو تبدیل کرنے والا ماڈل؟ 137M پیرامیٹرز — M2 Pro Mac mini پر صرف 3 منٹ 35 سیکنڈ میں ٹرینڈ۔ مائیکروسافٹ کا FastContext اس بات کا پتہ لگایا: ریپوزٹری کی تلاش ایک کوڈنگ ایجینٹ کے ٹوکنز کا 46.5% استعمال کر سکتی ہے۔ ان کے شائع شدہ تجربات نے مین ایجینٹ کے استعمال کو تکراراً 60.3% تک کم کیا۔ میں نے DeltaCode میں اس خیال کو مزید آگے بڑھایا: → Go ریپوزٹری کے قانونی کنٹیکسٹ کو فہرست بنا دیتا ہے → ہمارا کسٹم 137M رینکر روزمرہ کے انتخابات کو سنبھالتا ہے → FastContext 4B صرف امرتھ (ambiguous) READ/GLOB/GREP تلاش کے لیے استعمال ہوتا ہے → کسٹم Qwen3 4B کوڈنگ پریفلائٹ کرتا ہے → مہنگے ماڈلز کو مکمل ریپوزٹری نہیں، بلکہ دبائے گئے شواہد ملتے ہیں → کمپائلرز اور ٹیسٹس آخری اختیار برقرار رکھتے ہیں میرا کسٹم رینکر نے حاصل کیا: • 57.97% سیلڈ Recall@5 • اسٹاک ماڈل سے +5.80 پوائنٹس زیادہ • Recall@1 میں +14.49 پوائنٹس زیادہ • روتڈ باہری معاملات پر 73.33% Recall@5 • 0 اجراء کا اختیار کارآمدی میں فرق بہت زیادہ ہے: • 4B ایکسپلورر سے 96.6% کم پیرامیٹرز • 27B–30B ماڈل سے 99.5% کم • صرف 0.3225% پیرامیٹرز ہی ٹرینڈ ہوئے • اس لیے بنیادی ماڈل کا 99.68% فروزن رہا • اس اداپٹر کے لیے A100 خرچ مکمل طور پر بچ گیا • جب تک کاسکیڈ روزمرہ ریپوزٹری سرچز کو مقامی طور پر سنبھالتا ہے، تو بادل-کنٹیکسٹ ٹوکنز میں تخمینہً 35–55% کمی آئے گی* بڑے ماڈلز خراب نہیں ہوئے کیونکہ ان میں ذكاء نہ تھا۔ وہ خراب ہوئے کیونکہ ہم نے ایک ماڈل سے تلاش، استدلال، فارمیٹنگ، کوڈنگ، اوزار استعمال، اور خود کو تصدیق دینے کو کہا۔ چھوٹے ماڈلز جیتے کیونکہ ان میں سے ہر ایک کا صرف ایک قابل پیمائش کام تھا۔ میں نے مہنگے A100 تجربات استعمال کرکے سीکھا ہے کہ پروڈکشن میں مہنگا حسابات نہ لینا چاہئے۔ کوڈنگ ایجینٹس کا مستقبل شاید ایک بڑا LLM نہ ہو۔ شاید اس میں انتہائی چھوٹے ماہرین کا ایک ٹیم ہو — جن میں سے ہر ایک ایک اکلوتا کام کے لئے ٹرینڈ ہو، الگ الگ پیمائش شدہ، اور ان میں سے کوئي بھي آخری اختیار نہ رکھتا۔