Los agentes personales gastan la mayor parte de su presupuesto de tokens en una sola cosa: recordar su sentido de "quién". (Llamo a esto el Impuesto de Personalidad) Y "quién" es principalmente logística: en qué aplicaciones vives, dónde llevas tu diario, dónde están tus notas rápidas La memoria caché, aunque es una solución obvia, se convierte rápidamente en un arma de doble filo si se implementa de forma ingenua y termina costando más Escribí cómo reduje la factura de inferencia de mi agente en aproximadamente un 85% con múltiples puntos de caché Una idea clave: el horizonte de estabilidad: ordena el prompt según lo que cambia, no según su significado Lo escribí en detalle: https://t.co/XJceir0kOa
taniCompartir
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.