Các đại lý cá nhân dành phần lớn ngân sách token của họ cho một việc duy nhất: ghi nhớ cảm giác "là ai" của họ. (Tôi gọi đây là Thuế Tính cách) Và "là ai" chủ yếu là về mặt hậu cần: bạn sống trong những ứng dụng nào, bạn ghi chép ở đâu, các ghi chú chạy của bạn nằm ở đâu Việc lưu trữ đệm, dù là giải pháp rõ ràng, nhanh chóng trở thành một "súng tự bắn chân" nếu được triển khai một cách ngây thơ và cuối cùng lại tốn kém hơn Tôi đã viết về cách tôi giảm hóa đơn suy luận của đại lý khoảng 85% bằng cách sử dụng nhiều điểm ngắt bộ nhớ đệm Một ý tưởng then chốt: tầm ổn định — sắp xếp prompt theo những gì thay đổi, chứ không phải theo ý nghĩa của nó Đã viết chi tiết tại: https://t.co/XJceir0kOa