Используйте пользовательскую ИИ-модель. Я потратил недели на тестирование кодирующих моделей с 8B–30B параметрами на Azure A100. Модель, которая изменила нашу архитектуру? 137 млн параметров, обученная за 3 минуты 35 секунд на Mac mini с M2 Pro. FastContext от Microsoft выявил узкое место: исследование репозитория может потреблять до 46,5% токенов кодирующего агента. Опубликованные эксперименты сократили использование основного агента до 60,3%. Я развил эту идею в DeltaCode: → Go перечисляет допустимый контекст репозитория → Наша пользовательская 137M-ранкер обрабатывает рутинный выбор → FastContext 4B обрабатывает только неоднозначные операции READ/GLOB/GREP → Пользовательская Qwen3 4B выполняет предварительную проверку кода → Дорогие модели получают сжатые доказательства — не весь репозиторий → Компиляторы и тесты сохраняют окончательный контроль Мой пользовательский ранкер показал: • 57,97% закрытый Recall@5 • +5,80 пунктов по сравнению с базовой моделью • +14,49 пунктов в Recall@1 • 73,33% Recall@5 на маршрутизируемых внешних случаях • 0 полномочий на выполнение Разница в эффективности огромна: • На 96,6% меньше параметров, чем у 4B-проводника • На 99,5% меньше, чем у модели 27B–30B • Было обучено только 0,3225% параметров • Следовательно, 99,68% базовой модели осталась замороженной • Полностью избежаны расходы на A100 для этого адаптера • Оценочное снижение на 35–55% токенов облачного контекста, когда каскад обрабатывает рутинные поиски репозитория локально* Большие модели не провалились из-за недостатка интеллекта. Они провалились, потому что мы просили одну модель исследовать, рассуждать, форматировать, писать код, управлять инструментами и проверять себя саму. Маленькие модели победили, потому что у каждой была одна измеримая задача. Я использовал дорогостоящие эксперименты на A100, чтобы понять, как не требовать дорогостоящих вычислений в продакшене. Будущее кодирующих агентов может заключаться не в одной огромной LLM. Оно может быть в команде крошечных специалистов — каждый обучен одной задаче, каждый независимо измеряется, и никто не доверяет окончательному авторитету.