RightNow Meluncurkan Inference API di Mesin Tercepat yang Dikembangkan Sendiri

iconKuCoinFlash
Bagikan
AI summary iconRingkasan
RightNow mengumumkan API inferensi baru di mesin tercepat yang dikembangkan sendiri, MetaEra, sebagai bagian dari pembaruan berita on-chain yang sedang berlangsung. API ini mengklaim dapat meningkatkan kinerja GPU, dengan NVIDIA melaporkan peningkatan kecepatan 14x melalui kernel-nya. Setengah dari pasar inferensi model terbuka sudah menggunakan kernel ini. Layanan ini menawarkan model terbuka teratas dan dikenai biaya berdasarkan token, meskipun daftar model, benchmark, dan harga belum diungkapkan. Berita peluncuran token ini menandakan langkah penting dalam ruang AI inference.
ME AI pesan, RightNow di Twitter mengumumkan bahwa teknologinya memungkinkan model AI berjalan lebih cepat di GPU. Perusahaan tersebut menyatakan bahwa setengah dari pasar inferensi model terbuka telah menggunakan kernel-nya, dan NVIDIA mendapatkan peningkatan kinerja 14 kali lipat dengan menggunakan kernel tersebut. Pada hari yang sama, RightNow meluncurkan API inferensi miliknya sendiri, yang berjalan di mesin tercepatnya, menawarkan model terbuka terbaik dengan kecepatan penuh dan dibayar berdasarkan token. Daftar model, detail benchmark kinerja, harga, dan cakupan ketersediaan tidak diungkapkan dalam teks asli. (Sumber: InFoQ)
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.