Anthropic adiciona ajuste de "Esforço" à API Claude para desempenho dinâmico de IA

iconMetaEra
Compartilhar
AI summary iconResumo
A Anthropic adicionou um ajuste de "esforço" à API Claude, permitindo que desenvolvedores ajustem o desempenho em tempo real. O novo recurso permite alterações em tempo real na profundidade, velocidade e custo das respostas durante uma sessão. Os desenvolvedores agora podem usar uma mensagem do sistema com o parâmetro output_config.effort para ajustar as configurações sem reiniciar. Esta atualização pode impactar notícias de IA + criptomoeda, especialmente à medida que as listagens de novos tokens se tornam mais complexas.
Anthropic lança recurso Beta para a API Claude: desenvolvedores podem ajustar o nível de esforço a qualquer momento no fluxo de mensagens, equilibrando velocidade, completude e custo, ideal para cenários de agentes.

Autor e fonte do artigo: AIBase

Na mesma conversa, o início é solto e o final se torna mais intenso; a Anthropic finalmente permite que os desenvolvedores ajustem o esforço do modelo no meio do caminho. Em 12 de novembro, esta desenvolvedora do Claude introduziu uma funcionalidade Beta na API: os desenvolvedores podem ajustar o esforço a qualquer momento no fluxo de mensagens, ou seja, o nível de intensidade com que o modelo se esforça para responder, ajudando os usuários a equilibrar facilmente entre a profundidade da resposta, a velocidade de resposta e o custo de uso.

Mudar de marcha sem reiniciar, cache sem desconectar

Anteriormente, apenas era possível aplicar um conjunto fixo de parâmetros por sessão; agora, isso não é mais necessário. O método consiste em inserir uma mensagem system em branco na sequência de mensagens e, em seguida, especificar o nível desejado usando output_config.effort, mantendo inalteradas a configuração principal e o cache de prompts já atingidos. Observe que esta instrução não é retroativa — ela só entra em vigor a partir da próxima mensagem do usuário com nova entrada, enquanto o conteúdo já gerado permanece inalterado. Portanto, é essencial calcular com precisão onde inseri-la e quando aguardar a próxima pergunta.

Do papo mole ao hardcore, um ponto de virada

O ajuste de esforço vai muito além da quantidade final de palavras escritas; a profundidade do pensamento, o número de vezes que as ferramentas são chamadas e o investimento na organização da resposta também são afetados. Um uso típico é: na primeira metade da conversa, realizar perguntas e respostas leves, e no momento em que se passa para uma análise complexa, aumentar o nível — o modelo então automaticamente aumenta o esforço. Isso é especialmente vantajoso para agentes de longa cadeia — na fase inicial, usar um nível baixo para busca economiza tokens, e apenas elevar o nível quando chegar a um ponto que realmente exija raciocínio, em vez de pagar antecipadamente por toda a conversa. Quando a IA aprender a "ajustar o esforço conforme a necessidade", a capacidade de processamento e a fatura realmente passam a estar sob o controle do desenvolvedor.

Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.