Google lanza la API Gemini Decisions, capaz de resolver hasta 1,000 preguntas multimodales en una sola solicitud, con una latencia de nivel de 150 milisegundos, salida gratuita y ya disponible en AI Studio.Autor y fuente del artículo: AIBase
Deja que la IA tome decisiones rápidas de "correcto o incorrecto, ¿cuál elegir?"; Google ha reducido la latencia a cuestión de milisegundos. El 11 de noviembre, Google anunció el lanzamiento de la API Gemini Decisions, respaldada por el nuevo modelo Gemini Decision 1, diseñado específicamente para escenarios que requieren decisiones repetitivas de verdadero/falso, selección y calificación.
Dar puntos directamente con cálculo hacia adelante tras alimentar mil preguntas
Los desarrolladores cargan un material multimodal compuesto por texto, imágenes, audio, video o PDF (hasta 256K tokens) y pueden hacer hasta 1000 preguntas independientes. Gemini Decision 1 realiza un solo cálculo hacia adelante para asignar probabilidades y puntuaciones de confianza a cada opción, sin necesidad de dividirlo en cientos de llamadas como en los procesos tradicionales. Este tipo de tareas es ideal para la selección de herramientas, verificación de estrategias, enrutamiento de modelos y evaluación de la calidad del contexto: por ejemplo, alimentar el registro de una llamada junto con información de la cuenta, o combinar un formulario de reclamo escaneado con fotos del daño para que el modelo verifique todo en una sola pasada.
Rápido y económico, con resolución ajustable
En términos de velocidad, la latencia total del procesamiento oscila entre 150 y 250 milisegundos; los precios también son económicos: solo 0.10 dólares estadounidenses por millón de tokens de entrada (aproximadamente 0.67 yuanes chinos), y los tokens de salida son completamente gratuitos. Los desarrolladores también pueden ajustar manualmente la resolución de imágenes y videos para encontrar un equilibrio entre los detalles visuales y el costo en tokens. Actualmente, esta API ya está disponible en Google AI Studio, con cuotas gratuitas para desarrollo de prototipos.