Google meluncurkan Gemini Decisions API, yang menyelesaikan penilaian keputusan dalam satu kali forward pass berdasarkan model Decision1, dengan latensi end-to-end 150 hingga 250 milidetik, mendukung input multimodal dan berbagai bentuk pertanyaan, dengan harga yang terjangkau.Penulis artikel, sumber: AIBase
Perkembangan teknologi kecerdasan buatan sedang berpindah dari sekadar "menghasilkan konten" menuju "pengambilan keputusan yang efisien". Baru-baru ini, Google secara resmi meluncurkan Gemini Decisions API baru, sebuah endpoint baru yang didorong oleh model dasar Gemini Decision1, yang dirancang untuk membantu agen kecerdasan buatan membuat keputusan pra-tertentu dengan sangat cepat dalam operasi sehari-hari, sehingga menghilangkan proses rumit dari menghasilkan respons teks panjang dalam model tradisional.
Fitur inti dan mekanisme operasi: Satu kali forward pass untuk penilaian efisien
Secara arsitektur teknis dasar, Gemini Decision1 berbeda secara mendasar dari cara kerja model besar tradisional. Model ini tidak menghasilkan respons secara token per token, tetapi langsung memberikan penilaian komprehensif terhadap pilihan yang telah ditentukan dalam satu kali forward pass, kemudian mengembalikan probabilitas dan skor kepercayaan yang sesuai.
Berkat desain yang efisien ini, latensi end-to-end antarmuka ini secara signifikan ditekan menjadi antara 150 hingga 250 milidetik, memenuhi kebutuhan respons real-time agen dalam skenario interaksi frekuensi tinggi.
Dalam hal input dan bentuk pemanggilan spesifik, Gemini Decisions API menunjukkan kemampuan pemrosesan multimodal yang sangat kuat. Pengembang dapat mengevaluasi hingga 1.000 pertanyaan independen dalam satu pemanggilan API untuk input multimodal bersama yang mencakup teks, gambar, audio, video, dan PDF. Bentuk pemanggilan yang didukung secara spesifik meliputi:
Pemeriksaan "ya atau tidak" yang cepat.
Pilihan ganda dengan maksimal 255 opsi.
Permintaan penilaian berdasarkan kriteria penilaian yang telah ditetapkan.
Harga inklusif dan prospek penerapan
Dalam hal strategi harga, Google menetapkan standar yang sangat kompetitif untuk API ini: hanya $0,10 per juta token masukan.
Para analis industri menunjukkan bahwa seiring dengan integrasi mendalam model besar di berbagai industri, agen seringkali perlu melakukan sejumlah besar penilaian ringan dan pemilihan rute saat menjalankan alur kerja kompleks di latar belakang. Peluncuran Gemini Decisions API, dengan melewati tahap generasi teks antara, tidak hanya secara signifikan mengurangi biaya komputasi dan latensi respons, tetapi juga menyediakan infrastruktur dasar yang kuat untuk membangun aplikasi agen AI kompleks yang lebih lancar dan responsif.

