RightNow lanza la API de inferencia en su motor más rápido desarrollado internamente

iconKuCoinFlash
Compartir
AI summary iconResumen
RightNow anunció una nueva API de inferencia en su motor autodesarrollado más rápido, MetaEra, como parte de las actualizaciones continuas de noticias en cadena. La API afirma mejorar el rendimiento de la GPU, con NVIDIA reportando una ganancia de velocidad de 14x mediante su kernel. La mitad del mercado de inferencia de modelos abiertos ya utiliza este kernel. El servicio ofrece los mejores modelos abiertos y cobra por token, aunque las listas de modelos, benchmarks y precios permanecen sin divulgar. Esta noticia sobre el lanzamiento del token destaca un movimiento clave en el espacio de inferencia de IA.
ME AI mensaje, RightNow anunció en Twitter que su tecnología permite que los modelos de IA funcionen más rápido en GPU. La empresa afirmó que la mitad del mercado de inferencia de modelos abiertos ya utiliza su kernel, y NVIDIA logró un aumento de rendimiento de 14 veces al utilizar su kernel. El mismo día, RightNow lanzó su propia API de inferencia, que funciona en su motor más rápido, ofreciendo los mejores modelos abiertos a máxima velocidad y facturación por token. La lista de modelos, detalles de referencia de rendimiento, precios y disponibilidad no se revelaron en el texto original. (Fuente: InFoQ)
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.