Google melancarkan API Gemini Decisions dengan latensi 150ms untuk pengambilan keputusan AI yang pantas

iconMetaEra
Kongsi
AI summary iconRingkasan
Google melancarkan API Gemini Decisions dengan latensi 150ms untuk pengambilan keputusan AI pantas, menawarkan alat baharu kepada pembangun dalam ruang berita AI + kripto. Dibina berdasarkan model Gemini Decision1, API ini menilai pilihan yang ditetapkan dalam satu laluan, menangani sehingga 1,000 soalan setiap panggilan. Ia menyokong format ya/tidak, pilihan berganda, dan penilaian dengan input multimodal. Dihargaikan pada $0.10 per juta token, API ini bertujuan untuk mengurangkan kos dan mempercepatkan alur kerja AI yang kompleks. Saluran berita kripto sudah menonjolkan potensinya untuk aplikasi masa nyata.
Google melancarkan Gemini Decisions API, yang menyelesaikan penilaian keputusan dalam satu kali penghantaran maju berdasarkan model Decision1, dengan latensi end-to-end 150 hingga 250 milisaat, menyokong input multimodal dan pelbagai bentuk soalan, dengan harga yang boleh diakses.

Penulis artikel, sumber: AIBase

Perkembangan teknologi kecerdasan buatan sedang berpindah dengan cepat dari sekadar “menghasilkan kandungan” kepada “pengambilan keputusan yang efisien”. Google baru-baru ini secara rasmi melancarkan Gemini Decisions API yang baharu, sebuah endpoint baharu yang didorong oleh model Gemini Decision1-nya, yang bertujuan untuk membantu agen kecerdasan buatan membuat keputusan pra-tetap dengan pantas semasa operasi harian, serta menghilangkan proses rumit yang melibatkan penghasilan balasan teks panjang dalam model tradisional.

Fungsi utama dan mekanisme operasi: Penerusan maju sekali untuk penilaian yang efisien

Dari segi arsitekture teknikal bawah, Gemini Decision1 berbeza secara mendasar daripada cara model besar tradisional beroperasi. Model ini tidak menggunakan pendekatan menghasilkan respons secara token demi token, tetapi sebaliknya memberikan penilaian komprehensif terhadap pilihan yang telah ditetapkan dalam satu kali laluan maju, kemudian mengembalikan kebarangkalian dan skor keyakinan yang berkaitan.

Disebabkan reka bentuk yang cekap ini, latensi end-to-end antaramuka ini dikekang ketat antara 150 hingga 250 milisaat, memenuhi keperluan respons masa nyata agen dalam skenario interaksi frekuensi tinggi.

Dari segi input dan bentuk pemanggilan yang spesifik, Gemini Decisions API menunjukkan kemampuan pemprosesan multimodal yang sangat kuat. Pembangun boleh menilai sehingga 1000 soalan berasingan dalam satu pemanggilan API sahaja untuk input multimodal bersama yang mengandungi teks, gambar, audio, video, dan PDF. Bentuk pemanggilan yang disokong secara khusus termasuk:

Pemeriksaan "ya atau tidak" yang pantas.

Pilihan berganda dengan maksimum 255 pilihan.

Permintaan penilaian berdasarkan kriteria penilaian yang telah ditetapkan.

Penghargaaan harga yang inklusif dan prospek penggunaan

Dalam hal strategi harga, Google menetapkan piawaian yang sangat kompetitif untuk API ini: hanya $0.10 setiap juta token input.

Ahli analisis industri menunjukkan bahawa semakin dalam model besar tertanam dalam pelbagai industri, agen sering perlu membuat banyak penilaian ringan dan pemilihan laluan semasa menjalankan alur kerja kompleks di latar belakang. Pelancaran Gemini Decisions API, dengan melangkau peringkat penghasilan teks, tidak hanya mengurangkan kos pengiraan dan latensi respons secara besar-besaran, tetapi juga menyediakan infrastruktur asas yang kukuh untuk membina aplikasi agen AI kompleks yang lebih lancar dan responsif.

Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.