J'ai essayé d'exécuter un modèle de codage de 27B sur mon Mac de 16 Go, ça a échoué, bien sûr. Il avançait à 0,4 jetons par seconde, soit environ 200 secondes par appel d'outil. C'était nul, haha. Le même modèle de base sur @darkbloomai a répondu en environ 2 secondes. J'ai donc mené une expérience : les modèles sur le réseau de Macs inactifs de Darkbloom peuvent-ils être le cerveau d'un véritable agent de codage ? La configuration : six modèles Darkbloom, les six outils nécessaires à un agent (read, write, edit, shell, grep, glob), et des tâches de codage exécutées en vrai dans un sandbox, avec chaque résultat vérifié rigoureusement. Résultats : • 60/60 appels d'outil analysés proprement • 67/71 tâches à plusieurs étapes résolues : correction d'un bug, renommage à travers des fichiers, recherche d'une clé AWS placée, correction d'une injection SQL • Qwen3.8 27B, Gemma 4 26B et GLM 5.3 Flash ont obtenu un score parfait de 12/12 • Coût total de chaque exécution : environ 7 centimes de fou (tellement bon marché btw) L'idée courante est que les modèles ouverts sont adaptés au chat mais trop instables pour les agents. Je commence à penser le contraire. Voici pourquoi ça compte. Les agents de codage consomment un nombre énorme de jetons, et la majeure partie de ce qu'ils font est routinière : lire un fichier, rechercher dans le dépôt, exécuter les tests. Je parie que 25 à 40 % des tours d'un agent peuvent être exécutés sur @darkbloomai à une fraction du prix, en ne laissant que les étapes complexes sur les modèles de pointe. C'est une toute nouvelle catégorie de demande pour un réseau de Macs inactifs, si cela réussit. L'expérience 2 teste exactement cela sur du trafic réel... bientôt disponible !!!
.✦ ݁˖Partager

Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.
