Anthropic meluncurkan fitur Beta untuk Claude API: pengembang dapat menyesuaikan tingkat effort kapan saja dalam aliran pesan, menyeimbangkan kecepatan, kelengkapan, dan biaya, cocok untuk skenario agen.Penulis artikel, sumber: AIBase
Dalam satu percakapan yang awalnya longgar lalu menjadi ketat, Anthropic memungkinkan pengembang akhirnya untuk "menginjak gas" secara sewaktu-waktu. Pada 12 November, pengembang Claude menambahkan fitur Beta ke API-nya: pengembang dapat menyesuaikan upaya kapan saja dalam aliran pesan, yaitu tingkat usaha yang bersedia dikeluarkan model untuk menjawab pertanyaan, membantu pengguna menyeimbangkan secara instan antara kelengkapan jawaban, kecepatan respons, dan biaya penggunaan.
Ganti gigi tanpa membuka ulang, cache tetap terhubung
Sesi sebelumnya hanya bisa menggunakan parameter tetap, sekarang tidak perlu lagi. Caranya adalah menyisipkan pesan system kosong ke dalam urutan pesan, lalu gunakan output_config.effort baru untuk menentukan tingkat target, sementara konfigurasi tingkat atas dan cache prompt yang sudah terpicu tetap dipertahankan. Perlu diperhatikan bahwa perintah ini tidak berlaku mundur—ia hanya berlaku mulai dari pesan pengguna berikutnya yang memiliki input baru, sementara konten yang sudah dihasilkan tetap tidak berubah, sehingga waktu dan lokasi penyisipan harus dihitung dengan tepat.
Dari obrolan santai hingga inti yang serius, sebuah titik belok
Upaya yang dikeluarkan jauh lebih dari sekadar jumlah kata akhir yang ditulis; kedalaman pemikiran, frekuensi penggunaan alat, dan upaya dalam mengorganisasi jawaban juga akan terdorong. Penggunaan khasnya adalah: pada setengah pertama percakapan lakukan pertanyaan jawab ringan, lalu pada saat beralih ke analisis kompleks, tingkatkan tingkatnya, dan model akan secara otomatis meningkatkan usahanya. Ini sangat menguntungkan untuk agen rantai panjang—pada tahap awal, gunakan tingkat rendah untuk menghemat token, dan hanya naikkan tingkat saat mencapai titik yang benar-benar memerlukan penalaran, tanpa perlu membayar lebih awal untuk seluruh percakapan. Ketika AI belajar "menyesuaikan menu sesuai selera", daya komputasi dan tagihan baru benar-benar berada di genggaman pengembang.