Amazon Web Services випустила TorchNeuron у понеділок, щоб допомогти стартапам у сфері ШІ перенести застосунки на чіпи Amazon Trainium. Цей інструмент ставить під сумнів перевагу програмного забезпечення, яка допомогла зробити Nvidia стандартним вибором апаратного забезпечення для застосунків ШІ. Amazon стверджує, що TorchNeuron дозволяє запускати застосунки, написані з використанням PyTorch, на Trainium, змінивши лише один рядок конфігурації, без переписування коду.
PyTorch — це безкоштовний відкритий інструментарій для створення, навчання та запуску моделей ШІ. Amazon стверджує, що приблизно 85% застосунків ШІ написані з використанням PyTorch. Facebook спочатку розробив PyTorch, який з 2022 року є частиною Фонду Linux. Фонд Linux підтримує проекти з відкритим кодом. Nvidia протягом років забезпечувала, щоб CUDA — програмна інфраструктура для запуску застосунків на обладнанні Nvidia — безперебійно підтримувала застосунки PyTorch. Внаслідок цього обладнання Nvidia стало глибоко інтегрованим у PyTorch, майже за замовчуванням.
TorchNeuron адаптовано з PyTorch, тому розробники, які знайомі з PyTorch, вже знають, як використовувати TorchNeuron. Користувачі PyTorch також можуть переносити додатки на AMD GPU або чіпи Apple за допомогою простого зміни конфігурації. Однак Amazon стверджує, що перехід на Trainium також надає стартапам у сфері ШІ доступ до всієї хмари Amazon. AWS стверджує, що AWS є кращим вибором для стартапів, ніж спеціалізовані хмарні провайдери, такі як Coreweave, Nebius та Firmus, які прив’язані до апаратного забезпечення Nvidia.
Колін Брейс — віце-президент з технологічного програмного забезпечення в AWS Annapurna Labs, підрозділі, який розробляє кастомні чіпи Amazon. Брейс зазначив, що AWS вже надає інфраструктуру, необхідну засновникам для переходу від прототипів до виробництва та розширення операцій при необхідності. AWS стверджує, що Trainium обробляє як навчання моделей, так і висновки — коли готові моделі виконують завдання, наприклад, відповіді на запитання користувачів. AWS вважає, що використання одного й того ж чіпа для обох завдань, тісно інтегрованого з хмарною інфраструктурою, дозволить стартапам зекономити гроші, навіть якщо ціна за токен не є найнижчою. Брейс сказав, що Trainium покращує витрати на повний навантаження завдяки співвідношенню ціни та продуктивності та єдиної платформі для навчання та висновків. Брейс зазначив, що Deepgram перейшов на Trainium за допомогою нативної підтримки PyTorch і обробляє на 70% більше аудіо за долар при точності промислового рівня. Deepgram надає AI-застосунки для голосу та конкурує з ElevenLabs.
Amazon каже, що компанія також працює над тим, щоб зменшити автоматичну прив’язку PyTorch до Nvidia. Amazon повідомляє, що внесе код до основного проекту PyTorch для підтримки цього зусилля. У оголошенні Amazon зазначається, що компанія співпрацює зі спільнотою PyTorch, щоб видалити код, який прив’язує фреймворк до конкретних чіпів. Amazon каже, що мета — зробити PyTorch менш залежним від певного обладнання для всіх розробників, а не лише для користувачів Trainium.
Зусилля корисне для виробників обладнання та хмарних провайдерів, які конкурують з Nvidia. Однак PyTorch частково призначений для захисту розробників від складностей запуску AI-коду на обладнанні. Зменшення залежності PyTorch від Nvidia може надати більше вибору та більш доступні варіанти, як обіцяє Amazon, або створити більше складностей із конфігурацією. Успішне відокремлення PyTorch від Nvidia може мати більш серйозні наслідки для Nvidia, ніж одна лише конкуренція з іншими виробниками чипів. Брейс характеризував це зусилля як видалення обмежень, які перешкоджали розробникам мати справжній вибір.
Amazon запускає TorchNeuron, щоб поставити під загрозу домінування Nvidia у сфері штучного інтелекту
FLASH AIПоділитися
Короткий зміст
Amazon запустила TorchNeuron — новий інструмент для розробників ШІ, який дозволяє запускати додатки PyTorch на чіпах AWS Trainium з мінімальними змінами коду. Цей інструмент зменшує залежність PyTorch від програмного забезпечення Nvidia CUDA. AWS стверджує, що розробники можуть перейти на Trainium за допомогою однієї рядки конфігурації. Компанія також внесе код до PyTorch, щоб зробити його менш залежним від апаратного забезпечення. Стартапи, які використовують Trainium для навчання та висновків, можуть скоротити витрати. Deepgram повідомила про 70%-ий зростання обробки аудіо на долар після переходу. Ця новина про ШІ та криптовалюту підкреслює зусилля AWS щодо розвитку інфраструктури ШІ та он-чейн новин.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.