Google Meluncurkan Gemini Decisions API dengan latensi 150ms untuk Pengambilan Keputusan AI Cepat

iconMetaEra
Bagikan
AI summary iconRingkasan
Google meluncurkan Gemini Decisions API dengan latensi 150ms untuk pengambilan keputusan AI yang cepat, menawarkan alat baru bagi pengembang di ruang berita AI + kripto. Dibangun di atas model Gemini Decision1, API ini menilai pilihan yang telah ditentukan dalam satu proses, menangani hingga 1.000 pertanyaan per panggilan. API ini mendukung format yes/no, pilihan ganda, dan penilaian dengan input multimodal. Dihargai sebesar $0,10 per juta token, API ini bertujuan untuk mengurangi biaya dan mempercepat alur kerja AI yang kompleks. Media berita kripto sudah menyoroti potensinya untuk aplikasi real-time.
Google meluncurkan Gemini Decisions API, yang menyelesaikan penilaian keputusan dalam satu kali forward pass berdasarkan model Decision1, dengan latensi end-to-end 150 hingga 250 milidetik, mendukung input multimodal dan berbagai bentuk pertanyaan, dengan harga yang terjangkau.

Penulis artikel, sumber: AIBase

Perkembangan teknologi kecerdasan buatan sedang berpindah dari sekadar "menghasilkan konten" menuju "pengambilan keputusan yang efisien". Baru-baru ini, Google secara resmi meluncurkan Gemini Decisions API baru, sebuah endpoint baru yang didorong oleh model dasar Gemini Decision1, yang dirancang untuk membantu agen kecerdasan buatan membuat keputusan pra-tertentu dengan sangat cepat dalam operasi sehari-hari, sehingga menghilangkan proses rumit dari menghasilkan respons teks panjang dalam model tradisional.

Fitur inti dan mekanisme operasi: Satu kali forward pass untuk penilaian efisien

Secara arsitektur teknis dasar, Gemini Decision1 berbeda secara mendasar dari cara kerja model besar tradisional. Model ini tidak menghasilkan respons secara token per token, tetapi langsung memberikan penilaian komprehensif terhadap pilihan yang telah ditentukan dalam satu kali forward pass, kemudian mengembalikan probabilitas dan skor kepercayaan yang sesuai.

Berkat desain yang efisien ini, latensi end-to-end antarmuka ini secara signifikan ditekan menjadi antara 150 hingga 250 milidetik, memenuhi kebutuhan respons real-time agen dalam skenario interaksi frekuensi tinggi.

Dalam hal input dan bentuk pemanggilan spesifik, Gemini Decisions API menunjukkan kemampuan pemrosesan multimodal yang sangat kuat. Pengembang dapat mengevaluasi hingga 1.000 pertanyaan independen dalam satu pemanggilan API untuk input multimodal bersama yang mencakup teks, gambar, audio, video, dan PDF. Bentuk pemanggilan yang didukung secara spesifik meliputi:

Pemeriksaan "ya atau tidak" yang cepat.

Pilihan ganda dengan maksimal 255 opsi.

Permintaan penilaian berdasarkan kriteria penilaian yang telah ditetapkan.

Harga inklusif dan prospek penerapan

Dalam hal strategi harga, Google menetapkan standar yang sangat kompetitif untuk API ini: hanya $0,10 per juta token masukan.

Para analis industri menunjukkan bahwa seiring dengan integrasi mendalam model besar di berbagai industri, agen seringkali perlu melakukan sejumlah besar penilaian ringan dan pemilihan rute saat menjalankan alur kerja kompleks di latar belakang. Peluncuran Gemini Decisions API, dengan melewati tahap generasi teks antara, tidak hanya secara signifikan mengurangi biaya komputasi dan latensi respons, tetapi juga menyediakan infrastruktur dasar yang kuat untuk membangun aplikasi agen AI kompleks yang lebih lancar dan responsif.

Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.