Inilunsad ng Anthropic ang Beta feature para sa Claude API: Maaaring i-adjust ng mga developer ang effort tier sa anumang panahon sa stream ng mensahe, upang balansehin ang bilis, kahusayan, at gastos, na angkop para sa mga iskENARIO ng agent.May-akda ng artikulo, pinagkukunan: AIBase
Sa isang parehong usapan, mula sa malaya hanggang sa mabilis, pinahintulutan ni Anthropic ang mga developer na magbigay ng "gas" sa model sa gitna. Noong Disyembre 12, idinagdag ng kumpanyang nagtatag ng Claude ang isang Beta capability sa API: maaaring i-adjust ng mga developer ang effort sa pamamagitan ng stream ng mensahe, o ang antas ng "pagsisikap" na handa ng model na gawin para sagutin ang tanong, upang tulungan ang mga tao na magbalanse nang madali sa pagkakabuo ng sagot, bilis ng pagtugon, at gastos sa paggamit.
Huwag muling buksan ang pagbabago ng gear, huwag mawala ang cache
Sa nakaraang sesyon, limitado lang ang paggamit ng isang fixed na set ng mga parameter, ngunit hindi na kailangan ngayon. Ang paraan ay magdagdag ng isang blanko na system message sa sequence ng mensahe, at gamitin ang bagong output_config.effort upang tukuyin ang target level, habang nananatili ang lahat ng top-level configuration at cached prompts na nakuha na. Dapat maging maingat na ang pagbabago na ito ay hindi nag-uulit—nagsisimula ito lamang sa susunod na user message na may bagong input, at ang mga nai-generate na kontento ay nananatiling hindi nababago, kaya mahalaga na tama ang pagkakaposisyon at oras kung kailan darating ang susunod na tanong.
Mula sa pagkakasalita hanggang sa pagiging matigas, isang hangganan
Hindi lang ang huling bilang ng mga salita ang napapalitan ng effort—ang depth ng pag-iisip, ang bilang ng paggamit ng mga kasangkapan, at ang pagpupunyagi sa pag-organisa ng sagot ay sasali rin. Karaniwang gamit: sa unang bahagi ng usapan, gumamit ng lightweight na tanong at sagot, at sa sandaling magpapalit sa komplikadong pagsusuri, itaas ang antas, at awtomatikong magdadagdag ang modelo ng lakas. Lalo na benepisyoso ito para sa mga intelligent agent na may mahabang proseso—sa simula, gumamit ng mababang antas para i-save ang mga token, at tumaas lang sa antas kapag dumating sa mga punto kung saan kailangan ng pag-iisip, hindi kailangang magbayad nang buong halaga para sa buong usapan. Kapag natututo ang AI na "magsuot ng tamang suot ayon sa ulam," tama na ang kontrol sa kalakasan at tatakbo ng mga developer.