Amazon представила TorchNeuron — відкритий інструмент, створений для запуску коду AI на основі PyTorch на чіпах Trainium від Amazon з мінімальними змінами. Amazon, можливо, знайшла спосіб поставити під загрозу перевагу Nvidia у програмному забезпеченні, зменшивши необхідність переписувати код. У оголошенні про TorchNeuron Amazon зазначає, що розробники можуть запускати існуючий код PyTorch на Trainium за допомогою зміни конфігурації, а не переписування цілих застосунків.
Перевага Nvidia у сфері ШІ поширюється далі за чіпи — на CUDA, екосистему програмного забезпечення, на яку розробники покладаються для створення та запуску завантажень ШІ. Розробники роками створювали робочі процеси навколо CUDA, що призвело до витрат на перехід, що перевищують продуктивність апаратного забезпечення. Ці витрати роблять конкуруючі чіпи менш здатними привернути завантаження, навіть якщо вони пропонують привабливу економічну ефективність. TorchNeuron спрямований на зменшення інженерних зусиль та витрат, пов’язаних із адаптацією програмного забезпечення до іншої обчислювальної платформи. PyTorch широко використовується в усій галузі досліджень та розробок ШІ. Amazon не має потреби негайно витіснити CUDA, щоб зробити експерименти з альтернативою менш витратними та менш часовими.
Запуск розширює зусилля Amazon щодо розширення власного сілікону в галузі навчання та висновку штучного інтелекту. Акселератори Trainium дозволяють Amazon Web Services (AWS) пропонувати обчислювальну потужність за допомогою обладнання Amazon, а не повністю полагоджуватися на GPU Nvidia. Власні чіпи Amazon привернули великих клієнтів з галузі штучного інтелекту, зокрема Anthropic, яка використовує Trainium у обчислювальному кластері Project Rainier компанії Anthropic. TorchNeuron може зробити Trainium доступним для більшої кількості розробників, які інакше залишилися б з Nvidia, оскільки перехід вимагає надто багато зусиль. Amazon повідомила, що понад 30 ранніх клієнтів у галузях, таких як робототехніка, голосовий ІІ та світові моделі, вже використовують TorchNeuron. Ширше впровадження може допомогти AWS конкурувати за вартістю обчислень та зручністю розгортання додатків штучного інтелекту.
Оголошення не означає, що лідерство Nvidia незабаром зникне. CUDA залишається зрілою екосистемою, і Amazon все ще повинен довести конкурентоспроможність, надійність та економічну ефективність Trainium у складних навантаженнях. Однак конкурентний тиск може зростати, якщо розробники зможуть переносити додатки між платформами з меншими змінами. Простіше міграція надасть клієнтам хмари більше гнучкості та потенційно посилить позиції Amazon у переговорах щодо витрат на інфраструктуру штучного інтелекту.
Ключове питання для інвесторів — чи зможе Amazon перетворити спрощену міграцію програмного забезпечення на стійкий попит на Trainium. Amazon намагається зменшити програмні бар’єри, які тримають клієнтів на чіпах Nvidia, а не просто створити альтернативне апаратне забезпечення. Успіх може послабити програмну перевагу, яка захищає Nvidia від конкуренції.
Amazon запускає TorchNeuron для запуску коду PyTorch на чіпах Trainium
BenzingaПоділитися
Короткий зміст
Amazon запустила TorchNeuron — відкритий інструмент для запуску коду PyTorch на чіпах Trainium з мінімальними змінами. Інструмент допомагає розробникам уникнути переписування додатків при переході з Nvidia CUDA. TorchNeuron дозволяє запускати існуючі моделі PyTorch на Trainium лише завдяки оновленню конфігурації, зменшуючи витрати на перехід. Такі великі компанії в галузі ШІ, як Anthropic, вже використовують Trainium, а понад 30 ранніх користувачів тестують TorchNeuron. Ця новина на ланцюгу відзначає зміну в новинах про ШІ та криптовалюти, оскільки Amazon ставить під питання домінування Nvidia.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.