RightNow lança API de inferência no motor mais rápido desenvolvido internamente

iconKuCoinFlash
Compartilhar
AI summary iconResumo
A RightNow anunciou uma nova API de inferência em seu motor auto-desenvolvido mais rápido, o MetaEra, como parte das atualizações contínuas de notícias on-chain. A API afirma melhorar o desempenho da GPU, com a NVIDIA relatando um ganho de velocidade de 14x por meio de seu kernel. Metade do mercado de inferência de modelos abertos já utiliza esse kernel. O serviço oferece os principais modelos abertos e cobra por token, embora as listas de modelos, benchmarks e preços permaneçam não divulgados. Essa notícia sobre o lançamento do token destaca um movimento chave no espaço de inferência de IA.
ME AI mensagem, RightNow anunciou no Twitter que sua tecnologia permite que modelos de IA funcionem mais rapidamente em GPUs. A empresa afirma que metade do mercado de inferência de modelos abertos já utiliza seu kernel, e a NVIDIA obteve um aumento de desempenho de 14 vezes ao utilizá-lo. No mesmo dia, a RightNow lançou sua própria API de inferência, rodando em seu motor mais rápido, oferecendo os melhores modelos abertos em velocidade total e cobrando por token. A lista de modelos, detalhes de desempenho, precificação e disponibilidade não foram divulgados no original. (Fonte: InFoQ)
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.