Anthropic lance une fonction bêta pour l'API Claude : les développeurs peuvent ajuster à tout moment le niveau d'effort dans le flux de messages, équilibrant vitesse, exhaustivité et coût, idéal pour les scénarios d'agents.Auteur et source de l'article : AIBase
Dans le même dialogue, le début est détendu puis devient plus intense ; Anthropic permet enfin aux développeurs d'ajuster en temps réel l'effort du modèle. Le 12 novembre, ce développeur de Claude a ajouté une fonctionnalité bêta à son API : les développeurs peuvent régler à tout moment l'effort dans le flux de messages, c'est-à-dire le niveau d'engagement que le modèle consent à déployer pour répondre, permettant ainsi de peser facilement entre exhaustivité des réponses, vitesse de réponse et coût d'utilisation.
Changement de vitesse sans redémarrage, mise en cache sans déconnexion
Une session précédente ne pouvait utiliser qu’un ensemble fixe de paramètres ; ce n’est plus le cas désormais. La méthode consiste à insérer un message système vide dans la séquence de messages, puis à spécifier le niveau cible à l’aide de output_config.effort, tout en conservant intactes la configuration principale et le cache des prompts déjà appliqués. Il faut noter que cette instruction ne s’applique pas rétroactivement — elle ne prend effet qu’à partir de la prochaine message utilisateur contenant une nouvelle entrée ; les contenus déjà générés restent inchangés. Il est donc essentiel de bien choisir l’endroit où insérer ce message et d’attendre le bon moment pour la prochaine question.
De la discussion légère à la technicité, une ligne de démarcation
L'effort ne se mesure pas seulement au nombre final de mots écrits ; la profondeur de la réflexion, le nombre d'outils utilisés et l'investissement dans l'organisation de la réponse sont également impliqués. Son usage typique consiste à effectuer des réponses légères pendant la première moitié de la conversation, puis à augmenter le niveau dès qu'une analyse complexe est requise, ce qui incite le modèle à intensifier automatiquement ses efforts. Cela s'avère particulièrement avantageux pour les agents à longue chaîne — les recherches initiales utilisent un niveau bas pour économiser des tokens, et seul le niveau supérieur est activé lors des étapes nécessitant un raisonnement réel, évitant ainsi de payer à l'avance pour l'ensemble de la conversation. Lorsque l'IA apprend à « adapter son effort à la tâche », la puissance de calcul et les coûts sont véritablement sous le contrôle du développeur.