Intenté ejecutar un modelo de codificación de 27B en mi Mac de 16 GB, por supuesto, falló. Se movía a 0.4 tokens por segundo, unos 200 segundos por llamada a herramienta. Fue un desastre jaja. El mismo modelo base en @darkbloomai respondió en aproximadamente 2 segundos. Entonces realicé un experimento: ¿pueden los modelos en la red de Macs inactivos de Darkbloom ser el cerebro de un agente de codificación real? La configuración: seis modelos de Darkbloom, las seis herramientas que necesita un agente (leer, escribir, editar, shell, grep, glob), y tareas de codificación ejecutadas en un entorno aislado, con cada resultado verificado rigurosamente. Resultados: • 60/60 llamadas a herramientas analizadas sin errores • 67/71 tareas multietapa resueltas: corregir un error, renombrar en múltiples archivos, encontrar una clave de AWS insertada, parchear una inyección SQL • Qwen3.8 27B, Gemma 4 26B y GLM 5.3 Flash tuvieron un rendimiento perfecto: 12/12 • Costo total de cada ejecución: aproximadamente 7 centavos de dólar (¡así de barato!) La opinión común es que los modelos abiertos son adecuados para chat, pero demasiado inestables para agentes. Estoy empezando a pensar lo contrario. Aquí está por qué importa. Los agentes de codificación consumen enormes cantidades de tokens, y la mayor parte de lo que hacen es rutinario: leer un archivo, buscar en el repositorio, ejecutar las pruebas. Mi apuesta es que el 25-40% de los turnos de un agente pueden ejecutarse en @darkbloomai a una fracción del precio, dejando solo los pasos más complejos en modelos de vanguardia. Eso crea una nueva categoría de demanda para una red de Macs inactivos, si tiene éxito. El Experimento 2 prueba exactamente eso con tráfico real... ¡pronto!
.✦ ݁˖Compartir

Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.
