Utiliza un modelo de IA personalizado. He pasado semanas probando modelos de codificación de 8B a 30B en Azure A100. ¿El modelo que transformó nuestra arquitectura? Un modelo de 137M parámetros, entrenado en 3 minutos y 35 segundos en un Mac mini M2 Pro. FastContext de Microsoft reveló el cuello de botella: la exploración del repositorio puede consumir hasta el 46,5% de los tokens de un agente de codificación. Sus experimentos publicados redujeron el uso del agente principal hasta en un 60,3%. Llevé esta idea más lejos en DeltaCode: → Go enumera el contexto del repositorio legal → Nuestro clasificador personalizado de 137M maneja la selección rutinaria → FastContext 4B maneja solo la exploración ambigua READ/GLOB/GREP → Qwen3 4B personalizado realiza la preverificación de codificación → Los modelos costosos reciben evidencia comprimida, no todo el repositorio → Los compiladores y pruebas conservan la autoridad final Mi clasificador personalizado logró: • 57,97% de Recall@5 sellado • +5,80 puntos sobre el modelo estándar • +14,49 puntos en Recall@1 • 73,33% de Recall@5 en casos externos redirigidos • 0 autoridad de ejecución La diferencia de eficiencia es enorme: • 96,6% menos parámetros que un explorador de 4B • 99,5% menos que un modelo de 27B–30B • Solo el 0,3225% de sus parámetros fueron entrenados • Por lo tanto, el 99,68% de la base permaneció congelada • Se evitó el 100% del gasto en A100 para este adaptador • Reducción estimada del 35–55% en tokens de contexto en la nube una vez que la cascada maneje las búsquedas rutinarias del repositorio localmente* Los modelos más grandes no fallaron porque les faltara inteligencia. Fallaron porque les pedimos a un solo modelo que explorara, razonara, diera formato, codificara, operara herramientas y se verificara a sí mismo. Los modelos más pequeños ganaron porque cada uno tenía un solo trabajo medible. He utilizado experimentos costosos con A100 para aprender cómo no requerir cómputo caro en producción. El futuro de los agentes de codificación podría no ser un solo LLM enorme. Podría ser un equipo de pequeños especialistas, cada uno entrenado para una tarea, cada uno medido independientemente, y ninguno confiado con la autoridad final.
DeltaSignalCompartir

Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.
