Vários fabricantes de chips estão explorando novos métodos de avaliação, pois os Agentes estão transformando a carga de trabalho dos CPUs.Autor e fonte do artigo: Wall Street Journal
As aplicações do agente estão se tornando cada vez mais especializadas.
De ferramentas de programação por IA, como o Claude Code, até assistentes de escritório capazes de processar documentos e operar softwares, e até assistentes pessoais que ajudam os usuários a planejar itinerários e gerenciar agendas, os Agentes começam a assumir cada vez mais tarefas específicas.
A expansão contínua dos cenários de aplicação também impõe novas exigências à infraestrutura de computação subjacente.
Nesse contexto, a Arm lançou recentemente uma metodologia de avaliação de desempenho de CPU voltada para Agentes, buscando ajudar empresas a avaliar o desempenho de diferentes CPUs em tarefas de Agentes por meio de testes mais próximos de cenários reais.
Este não é um caso isolado. A AMD já havia proposto um framework de avaliação de carga de trabalho de CPU para Agent AI, incluindo etapas como execução de ferramentas, recuperação de dados e orquestração de tarefas nos testes; a Intel também realizou testes relacionados nos processadores Xeon 6, com foco na taxa de transferência e eficiência de execução concorrente das tarefas de Agent.
Vários fabricantes de chips estão explorando novos métodos de avaliação, pois os Agentes estão transformando a carga de trabalho dos CPUs.
Nos últimos anos, a competição por poder de computação para grandes modelos girou principalmente em torno das GPU, com métricas como velocidade de geração de tokens e throughput tornando-se critérios importantes para medir o desempenho de inferência de IA.
À medida que os Agentes começam a executar tarefas reais, além de invocar grandes modelos para inferência, é necessário acessar bancos de dados, executar código e chamar ferramentas, todos esses passos podem consumir grande quantidade de recursos de CPU.
O diretor de arquitetura de soluções de IA em nuvem Arm, Ravi Malhotra, usando um agente de desenvolvimento de software como exemplo, apontou que o modelo primeiro realiza o raciocínio e gera o código, mas o CPU ainda precisa concluir a construção, compilação e teste do código, operações que podem consumir muito tempo.
Um ponto muito importante nesse tipo de caso de uso é a velocidade com que a CPU consegue concluir sua parte do trabalho, permitindo que o controle seja devolvido o mais rápido possível à GPU ou acelerador mais caro, para executar a próxima etapa do pipeline. “Se a CPU não for rápida o suficiente, a GPU mais cara ficará ociosa,” disse Ravi Malhotra à mídia como AllThingsD.
Mais complexo ainda, os gargalos de desempenho de diferentes Agentes não são os mesmos. Alguns tasks são principalmente limitados pela velocidade de inferência da GPU, enquanto outros são restritos pela capacidade de execução do sandbox do CPU ou pela eficiência da recuperação de dados. Mesmo os gargalos de desempenho de Agentes do mesmo tipo podem variar conforme o modelo, o ambiente de implantação e a tarefa específica.
Por exemplo, no desenvolvimento de software, a compilação e os testes de código geralmente exigem uso contínuo de recursos de CPU, portanto, a performance individual do agente é mais importante. Em contraste, em cenários como suporte corporativo ao cliente ou assistente pessoal, as operações individuais geralmente são curtas, mas podem exigir o processamento simultâneo de muitas requisições, impondo requisitos mais altos para a capacidade concorrente da CPU.
Essas diferenças também levaram a avaliação de desempenho da CPU a focar na eficiência na execução de tarefas completas de Agent e no desempenho sob diferentes cargas de trabalho.
Neste momento, a Arm propôs integrar os testes em nível de componente com testes de referência de agente end-to-end.
Entre eles, os testes em nível de componente cobrem etapas como servidor web, banco de dados, serviço de modelo e execução em sandbox, enquanto os testes end-to-end introduzem benchmarks de agentes como SWE-bench e Terminal-Bench para avaliar o desempenho em fluxos de trabalho completos.
Além de métricas tradicionais como desempenho de núcleo único e throughput de múltiplos núcleos, a Arm também se concentra no número de agentes simultâneos, eficiência na execução de tarefas e desempenho por rack.
Ravi Malhotra enfatiza que a avaliação de desempenho precisa equilibrar o throughput com os requisitos do SLA (Acordo de Nível de Serviço), não podendo simplesmente buscar executar mais Agentes simultaneamente.
Devido às diferenças nas necessidades de diversos cenários, a Arm também não recomenda um método uniforme de atribuição de pesos para diferentes casos de uso de Agentes, mas sim sugere que as empresas escolham os indicadores de avaliação apropriados conforme suas aplicações.
À medida que os Agentes entram gradualmente nos processos operacionais reais das empresas, esses indicadores de desempenho também se tornam referências importantes para as empresas na escolha e atualização da infraestrutura de CPU.
Ravi Malhotra acredita que cenários como desenvolvimento de software, suporte ao cliente, gerenciamento da cadeia de suprimentos e assistentes pessoais se tornarão motores importantes para a atualização da infraestrutura de CPU pelas empresas.
“Para empresas, cenários como suporte ao cliente, gerenciamento da cadeia de suprimentos e assistentes pessoais focam mais no desempenho por rack, e as vantagens de escalabilidade e eficiência energética do Arm AGI CPU são especialmente destacadas nesses cenários,” disse Ravi Malhotra.
Ravi Malhotra destacou ainda que, seja atualizando a infraestrutura existente para aplicações de Agentes ou projetando e desenvolvendo nova infraestrutura, esses cenários criarão necessidades claras de atualização e têm potencial para se tornar os principais impulsionadores do crescimento e da adoção da CPU Arm AGI.
Para empresas, o valor trazido pelo aumento do desempenho da CPU precisa, finalmente, ser refletido na eficiência operacional e nos custos reais.
As cargas de trabalho dos diferentes Agentes variam significativamente; ainda é necessário mais validação em aplicações reais para confirmar se as vantagens de desempenho nos testes de referência se traduzem realmente em aumento da eficiência na execução de tarefas e redução dos custos de implantação.
Aviso de risco e isenção de responsabilidade
O mercado apresenta riscos; investir exige cautela. Este artigo não constitui uma recomendação de investimento pessoal e não considera os objetivos de investimento, situação financeira ou necessidades específicas de usuários individuais. Os usuários devem avaliar se quaisquer opiniões, pontos de vista ou conclusões apresentadas neste artigo são adequadas às suas circunstâncias particulares. Investir com base nisso é de responsabilidade exclusiva do usuário.