Google lance l'API Gemini Decisions, capable de traiter jusqu'à 1 000 questions multimodales en une seule requête, avec une latence de l'ordre de 150 ms, et une sortie gratuite, désormais disponible sur AI Studio.Auteur et source de l'article : AIBase
Faites en sorte que l'IA prenne les décisions rapides du type « vrai ou faux » ou « lequel choisir » ; Google a réduit la latence à quelques millisecondes. Le 11 novembre, Google a annoncé le lancement de l'API Gemini Decisions, soutenue par le tout nouveau modèle Gemini Decision 1, spécialement conçu pour les scénarios nécessitant des décisions répétées sous forme de questions oui/non, de choix ou d'évaluations.
Donner directement les points après le calcul forward
Un développeur téléverse un contenu multimodal composé de texte, d’images, d’audio, de vidéo ou de PDF (jusqu’à 256K tokens) et peut poser jusqu’à 1000 questions indépendantes. Gemini Decision 1 effectue une seule passe forward pour attribuer à chaque option une probabilité et un score de confiance — sans nécessiter des centaines d’appels comme dans les processus traditionnels. Ce type de tâche est idéal pour le choix d’outils, la vérification de stratégies, le routage de modèles et l’évaluation de la qualité du contexte : par exemple, en fournissant en entrée un enregistrement vocal accompagné d’informations de compte, ou une facture d’indemnisation numérisée associée à des photos des dommages, le modèle peut vérifier tout cela en une seule opération.
Rapide et peu coûteux, avec une résolution ajustable
En termes de vitesse, la latence totale du traitement se situe entre 150 et 250 millisecondes ; les prix sont également modérés, avec seulement 0,10 dollar américain par million de tokens d'entrée (environ 0,67 yuans chinois), tandis que les tokens de sortie sont entièrement gratuits. Les développeurs peuvent également ajuster manuellement la résolution des images et des vidéos pour trouver un équilibre entre les détails visuels et la consommation de tokens. Actuellement, cette API est disponible sur Google AI Studio avec un quota gratuit destiné au développement de prototypes.