Використовуйте власну AI-модель. Я провів тижні, тестуючи кодові моделі розміром 8B–30B на Azure A100. Модель, яка змінила нашу архітектуру? 137M параметрів, навчена за 3 хвилини 35 секунд на M2 Pro Mac mini. Microsoft’s FastContext виявив обмеження: дослідження репозиторію може споживати до 46,5% токенів кодового агента. Їхні опубліковані експерименти зменшили використання основного агента до 60,3%. Я розвинув цю ідею в DeltaCode: → Go перераховує правильний контекст репозиторію → Наша власна 137M ранкер-модель обробляє звичайні вибори → FastContext 4B обробляє лише неоднозначні дослідження READ/GLOB/GREP → Власна Qwen3 4B виконує попереднє кодування → Дорогі моделі отримують стиснені докази — не весь репозиторій → Компілятори та тести зберігають остаточну владу Моя власна ранкер-модель досягла: • 57,97% закритого Recall@5 • +5,80 балів порівняно з базовою моделлю • +14,49 балів у Recall@1 • 73,33% Recall@5 на розподілених зовнішніх випадках • 0 повноважень щодо виконання Різниця в ефективності надзвичайно велика: • На 96,6% менше параметрів, ніж у 4B досліднику • На 99,5% менше, ніж у 27B–30B моделі • Лише 0,3225% її параметрів було навчено • Тому 99,68% базової моделі залишилися замороженими • 100% витрат на A100 було уникнуто для цього адаптера • Оцінюване зменшення хмарних контекстних токенів на 35–55% після того, як каскад буде обробляти звичайні пошуки репозиторіїв локально* Більші моделі не зазнали невдачі через брак інтелекту. Вони зазнали невдачі, бо ми просили одну модель досліджувати, мислити, форматувати, писати код, керувати інструментами та перевіряти себе. Менші моделі виграли, бо кожна мала одну вимірювану задачу. Я використав дорогі експерименти на A100, щоб навчитися, як не вимагати дорогих обчислень у продуктивному середовищі. Майбутнє кодових агентів може полягати не в одній величезній LLM. Може, це буде команда дрібних спеціалістів — кожен навчений одній задачі, кожен незалежно вимірюється, і жоден не має остаточної влади.