Tentei executar um modelo de codificação de 27B no meu Mac de 16 GB; obviamente falhou. Funcionava a 0,4 tokens por segundo, cerca de 200 segundos por chamada de ferramenta. Foi horrível, haha. O mesmo modelo base no @darkbloomai respondeu em cerca de 2 segundos. Então, fiz um experimento: os modelos na rede de Macs ociosos da Darkbloom podem ser o cérebro de um agente de codificação real? A configuração: seis modelos da Darkbloom, as seis ferramentas que um agente precisa (ler, escrever, editar, shell, grep, glob) e tarefas de codificação executadas realmente em um sandbox, com todos os resultados verificados rigorosamente. Resultados: • 60/60 chamadas de ferramenta analisadas limpa e corretamente • 67/71 tarefas multietapas resolvidas: corrigindo um bug, renomeando em vários arquivos, encontrando uma chave AWS implantada, corrigindo uma injeção SQL • Qwen3.8 27B, Gemma 4 26B e GLM 5.3 Flash tiveram desempenho perfeito: 12/12 • Custo total de todas as execuções: cerca de 7 centavos (muito barato, por sinal) A visão comum é que modelos abertos são bons para bate-papo, mas muito instáveis para agentes. Estou começando a pensar o contrário. Aqui está o porquê disso importar. Agentes de codificação consomem enormes quantidades de tokens, e a maior parte do que fazem é rotineira: ler um arquivo, pesquisar no repositório, executar os testes. Minha aposta é que 25-40% das interações de um agente podem ser executadas no @darkbloomai a uma fração do custo, com apenas os passos mais difíceis permanecendo em modelos de ponta. Isso cria uma nova categoria de demanda para uma rede de Macs ociosos, se bem-sucedido. O Experimento 2 testa exatamente isso com tráfego real... em breve!!!
.✦ ݁˖Compartilhar

Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações.
Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.
