Google запускає API Gemini Decisions з затримкою 150 мс для швидкого прийняття рішень з використанням ШІ

iconMetaEra
Поділитися
AI summary iconКороткий зміст
Google запускає API Gemini Decisions з затримкою 150 мс для швидкого прийняття рішень штучним інтелектом, надаючи новий інструмент для розробників у сфері новин про ШІ та криптовалюти. Створений на основі моделі Gemini Decision1, API оцінює передвизначені варіанти за один прохід, обробляючи до 1 000 запитань за один виклик. Підтримує формати так/ні, вибір з кількох варіантів та оцінку з мультимодальним вводом. Ціна — $0,10 за мільйон токенів; API спрямований на зниження витрат і прискорення складних робочих процесів ШІ. Криптовалютні видання вже підкреслюють його потенціал для застосувань у реальному часі.
Google запускає Gemini Decisions API, який виконує оцінку рішень за допомогою одноразового прямого проходу моделі Decision1, з кінцевою затримкою 150–250 мілісекунд, підтримує мультимодальні вхідні дані та різноманітні форми запитів, і має доступну ціну.

Автор статті, джерело: AIBase

Еволюція технологій штучного інтелекту прискорюється, переходячи від простого «генерування контенту» до «ефективного прийняття рішень». Недавно Google офіційно запустила новий Gemini Decisions API — це новий ендпоінт, що працює на основі моделі Gemini Decision1, і призначений для допомоги штучним інтелектам у швидкому прийнятті передвизначених рішень у повсякденній роботі, повністю виключаючи необхідність у довгих текстових відповідях традиційного підходу.

Основні функції та механізм роботи: ефективна оцінка за допомогою однієї прямого проходження

На рівні базової архітектури Gemini Decision1 фундаментально відрізняється від традиційних великих моделей. Ця модель не генерує відповіді по одному токену, а замість цього за одну прямі передачу оцінює всі заздалегідь визначені варіанти, після чого повертає відповідні ймовірності та бали впевненості.

Завдяки цій ефективній архітектурі кінцева затримка інтерфейсу значно зменшена до діапазону 150–250 мілісекунд, що задовольняє вимоги до реального часу для агентів у сценаріях із високою частотою взаємодії.

Щодо конкретних форматів введення та викликів, Gemini Decisions API демонструє виняткову багатомодальну обробку. Розробники можуть оцінювати до 1000 окремих запитів за один виклик API, використовуючи спільні багатомодальні вхідні дані, що містять текст, зображення, аудіо, відео та PDF. Підтримувані формати викликів включають:

Швидка перевірка «так або ні».

Багатовибіркове питання з максимально 255 варіантами.

Запит на оцінку на основі передвизначених критеріїв.

Універсальне ціноутворення та перспективи застосування

Щодо цінової стратегії, Google встановив дуже конкурентоспроможний стандарт для цього API: лише 0,10 долара за мільйон вхідних токенів.

Індустріальні аналітики зазначають, що зі зростанням глибини інтеграції великих моделей у різні галузі, агенти, що виконують складні робочі процеси у тиловій частині, часто повинні здійснювати велику кількість легких рішень та вибору маршрутів. Запуск Gemini Decisions API, який пропускає проміжний етап генерації тексту, не лише значно знижує обчислювальні витрати та затримки відповіді, але й забезпечує міцну базову інфраструктуру для створення більш плавних та швидко реагуючих складних додатків на основі AI-агентів.

Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.