source avatarDeltaSignal

Partager

Utilisez un modèle IA personnalisé. J’ai passé des semaines à tester des modèles de codage de 8 à 30 milliards de paramètres sur des Azure A100. Le modèle qui a transformé notre architecture ? Un modèle de 137 millions de paramètres, entraîné en 3 minutes 35 secondes sur un Mac mini M2 Pro. FastContext de Microsoft a révélé le goulot d’étranglement : l’exploration du dépôt peut consommer 46,5 % des jetons d’un agent de codage. Leurs expériences publiées ont réduit l’utilisation de l’agent principal jusqu’à 60,3 %. J’ai poussé cette idée plus loin dans DeltaCode : → Go énumère le contexte du dépôt autorisé → Notre classeur personnalisé de 137 M gère la sélection routinière → FastContext 4B gère uniquement l’exploration ambiguë READ/GLOB/GREP → Qwen3 4B personnalisé effectue la pré-validation du codage → Les modèles coûteux reçoivent des preuves compressées — pas tout le dépôt → Les compilateurs et les tests conservent l’autorité finale Mon classeur personnalisé a atteint : • 57,97 % de Recall@5 scellé • +5,80 points par rapport au modèle standard • +14,49 points en Recall@1 • 73,33 % de Recall@5 sur les cas externes routés • 0 autorité d’exécution La différence d’efficacité est énorme : • 96,6 % moins de paramètres qu’un explorateur de 4B • 99,5 % moins qu’un modèle de 27 à 30 milliards • Seulement 0,3225 % de ses paramètres ont été entraînés • Donc 99,68 % de la base est restée figée • 100 % des coûts A100 ont été évités pour cet adaptateur • Réduction estimée de 35 à 55 % des jetons de contexte cloud une fois que la cascade gère localement les recherches de dépôt routinières* Les grands modèles n’ont pas échoué parce qu’ils manquaient d’intelligence. Ils ont échoué parce que nous avons demandé à un seul modèle d’explorer, raisonner, formater, coder, utiliser des outils et se vérifier lui-même. Les petits modèles ont gagné parce que chacun avait un seul travail mesurable. J’ai utilisé des expériences coûteuses sur A100 pour apprendre comment ne pas exiger de calculs coûteux en production. L’avenir des agents de codage ne pourrait pas être un seul LLM énorme. Il pourrait être une équipe de spécialistes minuscules — chacun formé pour une tâche unique, chacun mesuré indépendamment, et aucun ne doté de l’autorité finale.

No.0 picture
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.