Les agents personnels consacrent la majeure partie de leur budget de jetons à une seule chose : se souvenir de leur sentiment d’« identité ». (J’appelle cela la taxe de personnalité) Et « identité » concerne principalement la logistique : les applications que vous utilisez, où vous tenez votre journal, où se trouvent vos notes de travail Le cache, bien qu’une solution évidente, devient rapidement un piège si mis en œuvre de manière naïve et finit par coûter plus cher J’ai rédigé comment j’ai réduit la facture d’inférence de mon agent de près de 85 % en utilisant plusieurs points de rupture de cache Une idée clé : l’horizon de stabilité — trier le prompt selon ce qui change, et non selon ce qu’il signifie Écrit en détail : https://t.co/XJceir0kOa