RightNow Melancarkan Inference API pada Enjin Terpantas Buatan Sendiri

iconKuCoinFlash
Kongsi
AI summary iconRingkasan
RightNow mengumumkan API inferens baharu pada enjin terpantas buatan sendiri, MetaEra, sebagai sebahagian daripada kemas kini berita on-chain yang sedang berlangsung. API ini mengklaim dapat meningkatkan prestasi GPU, dengan NVIDIA melaporkan peningkatan kelajuan 14x melalui kernelnya. Separuh pasaran inferens model terbuka sudah menggunakan kernel ini. Perkhidmatan ini menawarkan model terbuka terkemuka dan dikenakan bayaran berdasarkan token, walaupun senarai model, benchmark, dan harga masih tidak diumumkan. Berita pelancaran token ini menonjolkan langkah penting dalam ruang inferens AI.
ME AI mesej, RightNow mengumumkan di Twitter bahawa teknologi mereka membolehkan model AI berjalan lebih pantas di GPU. Syarikat tersebut menyatakan separuh daripada pasaran inferens model terbuka telah menggunakan kernel mereka, dan NVIDIA mendapat peningkatan prestasi 14 kali ganda dengan menggunakan kernel tersebut. Pada hari yang sama, RightNow melancarkan API inferens miliknya sendiri, yang berjalan di enjin paling pantas mereka, menyediakan model terbuka terbaik yang beroperasi pada kelajuan penuh dan dikenakan bayaran berdasarkan token. Senarai model, butiran prestasi, penetapan harga, dan lingkungan ketersediaan tidak diumumkan dalam teks asal. (Sumber: InFoQ)
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.