
Jurutera LangChain: "Jika anda menggunakan 100,000 token, walaupun ia disimpan dalam cache, ia masih 100,000 token." 50 minit membincangkan mengapa satu tugas agen kecil terus menghantar konteks yang sama dalam setiap permintaan. Manus memanggil sekitar 50 alat setiap kali berjalan, dan setiap hasilnya dibawa bersama dalam panggilan seterusnya. Cache mengurangkan kadar token tersebut, tetapi tidak pernah mengurangkan jumlahnya. Perhatikan ini, kemudian baca panduan di bawah mengenai penentuan harga satu tugas yang selesai.
