Engineer ng LangChain: “Kung gumagamit ka ng 100,000 na tokens, kahit na naka-cache, patuloy pa ring 100,000 ang mga tokens.” 50 minuto tungkol sa bakit patuloy na nagpapadala ng parehong konteksto sa bawat kahilingan ng isang maliit na agent task. Tumatawag ang Manus ng humigit-kumulang 50 na mga tool bawat pagpapatakbo, at ang bawat resulta ay kasama sa susunod na kahilingan. Ang caching ay bumababa sa rate ng mga tokens pero hindi nagbababa sa bilang. Pansinin ito, pagkatapos ay basahin ang gabay sa ibaba tungkol sa pagpaprisa ng isang natapos na task.
