GoogleがGemini Decisions APIをリリース。1回のリクエストで最大1000のマルチモーダル問題を判別し、レイテンシーは150ミリ秒レベル。出力は無料で、すでにAI Studioで利用可能。文章作成者、出典:AIBase
AIが「正しいか、どれを選ぶか」といった迅速な判断を人間の代わりに実行する。Googleは遅延をミリ秒単位まで短縮した。Googleは11月11日、Gemini Decisions APIを発表し、その背後には、繰り返しの是非問題、選択問題、スコアリングに特化した新しいGemini Decision 1モデルが搭載されている。
一回のフィードで千問、フォワード計算で即点数付与
開発者がテキスト、画像、音声、動画、またはPDFからなるマルチモーダルな資料(最大256Kトークン)をアップロードし、最大1000個の互いに無関係な質問を投げることができます。Gemini Decision 1は、従来のプロセスのように数百回の呼び出しに分けることなく、1回のフォワード計算で各オプションの確率と信頼度スコアを出力します。このようなタスクは、ツール選択、戦略検証、モデルルーティング、コンテキスト品質評価に最適です。たとえば、通話録音とアカウント情報を同時に投入したり、スキャンした保険請求書に損傷写真を添付して、モデルが一括で検証するといった使い方ができます。

速くて安価で、解像度も調整できます
処理遅延は150〜250ミリ秒の範囲に収まり、価格もリーズナブルで、入力トークン100万あたり0.10ドル(約0.67元人民元)です。出力トークンは完全に無料です。開発者は画像や動画の解像度を手動で調整でき、視覚的詳細とトークンコストのバランスを取ることができます。現在、このAPIはGoogle AI Studioで提供されており、プロトタイプ開発用に無料枠が用意されています。



