Google запускає Gemini Decisions API, який може обробляти до 1000 мультимодальних запитів за раз із затримкою на рівні 150 мілісекунд, вивід безкоштовний, вже доступний на AI Studio.Автор статті, джерело: AIBase
Нехай ШІ робить швидкі рішення «чи правильно» та «який варіант обрати» — Google зменшив затримку до мілісекунд. 11 листопада Google оголосив про запуск Gemini Decisions API, який базується на новій моделі Gemini Decision 1, спеціально розробленій для сценаріїв, що вимагають постійного відповідання на питання «так/ні», вибору варіантів та оцінки.
Одне годування — тисяча запитань, прямий розрахунок відразу дає бали
Розробник завантажує мультимодальний матеріал, що складається з тексту, зображення, аудіо, відео або PDF (максимум 256K токенів) і може поставити до 1000 взаємно незалежних запитань. Gemini Decision 1 виконує лише один прямий прохід, щоб оцінити ймовірність та рівень впевненості для кожного варіанту — не потрібно розбивати це на сотні викликів, як у традиційних процесах. Такі завдання ідеально підходять для вибору інструментів, перевірки стратегій, маршрутизації моделей та оцінки якості контексту: наприклад, надати моделі аудіозапис розмови разом із інформацією про обліковий запис або сканований клейм з претензією разом із фотографіями пошкоджень, щоб модель миттєво перевірила їх.
Швидко та дешево, і можна налаштувати роздільну здатність
Щодо швидкості, загальна затримка обробки становить від 150 до 250 мілісекунд; ціни також доступні: лише 0,10 долара США за мільйон вхідних токенів (приблизно 0,67 юаня), а вихідні токени повністю безкоштовні. Розробники також можуть вручну налаштовувати роздільну здатність зображень та відео, щоб знайти баланс між візуальними деталями та витратами на токени. Наразі цей API вже доступний на Google AI Studio і надає безкоштовний ліміт для розробки прототипів.