Anthropic lanza funciones beta para la API de Claude: los desarrolladores pueden ajustar el nivel de esfuerzo en cualquier momento dentro del flujo de mensajes, equilibrando velocidad, exhaustividad y costo, ideal para escenarios de agentes.Autor del artículo, fuente: AIBase
En el mismo diálogo, primero relajado y luego más intenso, Anthropic permite a los desarrolladores ajustar el esfuerzo del modelo en tiempo real. El 12 de noviembre, esta empresa desarrolladora de Claude incorporó una función beta a su API: los desarrolladores pueden ajustar el esfuerzo en cualquier momento durante el flujo de mensajes, es decir, el nivel de intensidad con que el modelo se esfuerza por responder, permitiendo equilibrar fácilmente entre la exhaustividad de la respuesta, la velocidad de respuesta y el costo de uso.
Cambio de marcha sin reiniciar, caché sin desconexión
Anteriormente, solo se podían aplicar parámetros fijos a una sesión pasada; ya no es necesario. El método consiste en insertar un mensaje de sistema en blanco en la secuencia de mensajes y luego especificar el nivel objetivo con output_config.effort, manteniendo intacta la configuración principal y la caché de indicaciones ya alcanzadas. Cabe tener en cuenta que este cambio no es retroactivo: solo entra en vigor a partir de la siguiente mensaje de usuario con nueva entrada, sin modificar en absoluto el contenido ya generado; por lo tanto, es crucial calcular con precisión dónde insertarlo y cuándo esperar la próxima pregunta.
De la charla casual al contenido técnico, un punto de inflexión
El esfuerzo va mucho más allá de la cantidad final de palabras escritas; se ven afectadas la profundidad del pensamiento, la frecuencia de uso de herramientas y el esfuerzo invertido en organizar la respuesta. Un uso típico es: en la primera mitad de la conversación, realizar preguntas y respuestas ligeras, y en el momento en que se pasa al análisis complejo, elevar el nivel; el modelo entonces aumenta automáticamente su esfuerzo. Esto resulta especialmente ventajoso para agentes de larga cadena: durante la fase inicial de búsqueda, usar un nivel bajo para ahorrar tokens, y solo elevarlo cuando se llegue a nodos que requieran razonamiento real, sin tener que pagar por toda la conversación desde el principio. Cuando la IA aprende a "adaptarse a los ingredientes disponibles", la capacidad de cómputo y los costos realmente quedan bajo el control del desarrollador.