RightNow запускає Inference API на власному найшвидшому рушії

iconKuCoinFlash
Поділитися
AI summary iconКороткий зміст
RightNow оголосила про новий API висновків на своєму найшвидшому саморозробленому двигуні MetaEra як частину постійних оновлень у ланцюжку. API стверджує, що підвищує продуктивність GPU, при цьому NVIDIA повідомила про збільшення швидкості в 14 разів завдяки своєму ядру. Половина ринку висновків відкритих моделей вже використовує це ядро. Сервіс пропонує найкращі відкриті моделі та стягує плату за токени, хоча списки моделей, бенчмарки та ціни залишаються нерозголошеними. Ця новина про запуск токена підкреслює ключовий крок у сфері AI-висновків.
ME AI повідомлення, RightNow на Twitter оголосив, що його технологія дозволяє запускати AI-моделі швидше на GPU. Компанія заявила, що половина ринку інференсу відкритих моделей вже використовує їхні ядра, а NVIDIA отримала 14-кратне підвищення продуктивності за допомогою цих ядер. Того ж дня RightNow запустив власний API інференсу, який працює на найшвидшому двигуні, забезпечуючи найкращі відкриті моделі на повній швидкості з оплатою за токени. Список моделей, деталі продуктивності, ціноутворення та доступність не були розкриті. (Джерело: InFoQ)
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.