Google, Gemini Decisions API'yi推出, bir seferde 1000 çok modalli soruyu 150 milisaniye gecikmeyle değerlendirebilir, çıktı ücretsizdir ve AI Studio'da mevcuttur.Yazan: AIBase
AI, "doğru mu, hangisi?" gibi hızlı kararları insan yerine yapacak; Google gecikmeyi milisaniye seviyesine indirdi. Google, 11 Kasım'da Gemini Decisions API'yi tanıttı; arka planda, tekrarlı doğru/yanlış soruları, seçimler ve puanlamalar için özel olarak tasarlanmış yeni Gemini Decision 1 modeli bulunuyor.
Bir kez bin soru verin, ileri hesaplama doğrudan puan verir
Bir geliştirici, en fazla 256K Token kapasiteli bir metin, resim, ses, video veya PDF'den oluşan çok modalli bir materyal yükler ve en fazla 1000 adet birbirinden bağımsız soru sorabilir. Gemini Decision 1, geleneksel süreçte olduğu gibi yüzlerce çağrıya bölmeden, yalnızca bir kez ileri yayılım hesaplaması yaparak her seçenek için olasılık ve güven skorları verir. Bu tür görevler, araç seçimi, strateji doğrulama, model yönlendirme ve bağlam kalitesi değerlendirmesi için idealdir: Örneğin, bir konuşma kaydını hesap bilgileriyle birlikte girdi olarak vermek veya taranmış bir tazminat talep formunu hasarlı fotoğraflarla birlikte modelin tamamını tek seferde doğrulamasını sağlamak.
Hızlı ve ucuz, ayrıca çözünürlük ayarlanabilir
İşlem süresi 150 ile 250 milisaniye arasında; fiyatlar da uygun, milyon token başına yalnızca 0,10 ABD doları (yaklaşık 0,67 Çin yuanı) ve çıktı token'ları tamamen ücretsiz. Geliştiriciler, görsel detaylar ile token maliyeti arasında denge kurmak için manuel olarak görüntü ve video çözünürlüğünü ayarlayabilir. Şu anda bu API, Google AI Studio'da ücretsiz kota ile sunulmaktadır.