Siaran
avatar

Jurutera LangChain: "Jika anda menggunakan 100,000 token, walaupun ia disimpan dalam cache, ia masih 100,000 token." 50 minit membincangkan mengapa satu tugas agen kecil terus menghantar konteks yang sama dalam setiap permintaan. Manus memanggil sekitar 50 alat setiap kali berjalan, dan setiap hasilnya dibawa bersama dalam panggilan seterusnya. Cache mengurangkan kadar token tersebut, tetapi tidak pernah mengurangkan jumlahnya. Perhatikan ini, kemudian baca panduan di bawah mengenai penentuan harga satu tugas yang selesai.

Kandungan ini adalah bagi tujuan maklumat dan pendidikan sahaja. Ia mungkin termasuk pandangan pihak ketiga, kandungan tajaan, atau bahan promosi yang mana pencipta mungkin menerima pampasan. Tiada apa-apa dalam suapan ini yang merupakan nasihat pelaburan atau jaminan pulangan. Anda bertanggungjawab sepenuhnya ke atas keputusan pelaburan anda sendiri. Sentiasa jalankan penyelidikan anda sendiri dan berhati-hati sebelum berdagang. Kami tidak menjamin ketepatan maklumat pihak ketiga dan tidak bertanggungjawab ke atas sebarang kerugian yang ditanggung. Prestasi masa lalu tidak menunjukkan hasil masa hadapan. Sila rujuk Terma Komuniti dan Penyata Pendedahan Risiko kami untuk mendapatkan butiran.

avatarSiarkan balasan anda

Komen