Anthropic, Claude API için Beta özelliği tanıttı: Geliştiriciler, mesaj akışlarında her an çaba seviyesini ayarlayarak hız, eksiksizlik ve maliyet arasında denge kurabilecek. Bu özellik, akıllı sistem senaryoları için uygundur.Yazan: AIBase
Aynı diyalogda başta gevşek, sonra sıkı; Anthropic, geliştiricilere nihayet modelin ortada "gaz vermesini" sağladı. 12 Kasım'da, Claude'nin geliştiricisi, API'ye bir Beta özelliği ekledi: Geliştiriciler, mesaj akışı içinde her an çaba seviyesini ayarlayabilir, yani modelin soruyu yanıtlamak için ne kadar çaba harcayacağını seçebilir; bu da cevap kalitesi, yanıt hızı ve kullanım maliyeti arasında kolayca denge kurmaya yardımcı olur.
Değiştime yapın, yeniden başlatmayın; önbelleği kesmeyin
Önceki bir sohbet sadece sabit parametrelerle sınırlıydı, artık böyle değil. Yapılması gereken, mesaj dizisine boş bir sistem mesajı eklemek ve yeni output_config.effort ile hedef seviyeyi belirtmek; üst düzey yapılandırma ve zaten eşleşen ipuçları önbelleği aynen korunur. Dikkat edilmesi gereken nokta, bu komut geriye dönük etki etmez — yeni bir kullanıcı girişiyle birlikte ilk kez geçerli olur; zaten oluşturulan içerik hiçbir şekilde değişmez, bu nedenle nereye ekleyeceğinizi ve bir sonraki soruyu ne zaman bekleyeceğinizi dikkatle hesaplamanız gerekir.
Sohbetten sert bilgiye, bir sınır
Çaba, sonunda yazılan kelime sayısından çok daha fazlasını etkiler: düşünme derinliği, araçların kullanım sıklığı, cevapların organize edilmesine yapılan yatırım tümüyle harekete geçer. Tipik kullanım: diyalogun ilk yarısında hafif soru-cevap yapın, karmaşık analize geçtiğiniz anda seviyeyi yükseltin, model otomatik olarak daha fazla çaba harcar. Uzun zincirli ajanlar için özellikle avantajlıdır—önceden arama için düşük seviyeyi kullanarak Token tasarrufu sağlayın, gerçek anlamda akıl yürütme gerektiren noktalarda seviyeyi yükseltin, tüm diyalog boyunca önceden ödeme yapmanıza gerek yoktur. AI, "yemeğe göre yemek seçmeyi" öğrendiğinde, hesaplamalı kaynaklar ve fatura gerçekten geliştiricilerin elinde olur.