RightNow lance son API d'inférence sur son moteur le plus rapide, développé en interne

iconKuCoinFlash
Partager
AI summary iconRésumé
RightNow a annoncé une nouvelle API d'inférence sur son moteur le plus rapide, développé en interne, MetaEra, dans le cadre de ses mises à jour continues sur les actualités sur chaîne. L'API affirme améliorer les performances GPU, avec NVIDIA signalant un gain de vitesse de 14 fois grâce à son noyau. La moitié du marché de l'inférence des modèles ouverts utilise déjà ce noyau. Le service propose les principaux modèles ouverts et facture selon les jetons, bien que la liste des modèles, les benchmarks et les tarifs restent non divulgués. Cette annonce de lancement de jeton met en lumière une étape clé dans le domaine de l'inférence IA.
ME AI message, RightNow a annoncé sur Twitter que sa technologie permet aux modèles d'IA de fonctionner plus rapidement sur GPU. L'entreprise affirme que la moitié du marché de l'inférence de modèles ouverts utilise déjà ses noyaux, et que NVIDIA a obtenu une amélioration des performances de 14 fois en utilisant ses noyaux. Le même jour, RightNow a lancé son propre API d'inférence, fonctionnant sur son moteur le plus rapide, offrant les meilleurs modèles ouverts en pleine vitesse et facturés au token. La liste des modèles, les détails des benchmarks de performance, les prix et la disponibilité n'ont pas été divulgués dans l'article original. (Source : InFoQ)
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.