Amazon представила TorchNeuron — открытый инструмент, предназначенный для запуска кода на основе PyTorch на чипах Trainium от Amazon с минимальными изменениями. Amazon, возможно, нашла способ оспорить программное преимущество Nvidia, сократив необходимость в переписывании кода разработчиками. В объявлении о TorchNeuron от Amazon говорится, что разработчики могут запускать существующий код PyTorch на Trainium с помощью изменения конфигурации, а не переписывания всего приложения.
Преимущество Nvidia в области ИИ распространяется не только на чипы, но и на CUDA — экосистему программного обеспечения, на которую разработчики полагаются для создания и запуска задач ИИ. Разработчики годами создавали рабочие процессы вокруг CUDA, формируя издержки переключения, превышающие производительность оборудования. Эти издержки делают конкурирующие чипы менее привлекательными для привлечения задач, даже когда они предлагают выгодную экономическую модель. TorchNeuron направлен на сокращение инженерных затрат и времени, необходимых для адаптации программного обеспечения к другой вычислительной платформе. PyTorch широко используется в исследованиях и разработке ИИ. Amazon не должен сразу вытеснить CUDA, чтобы сделать эксперименты с альтернативой менее затратными и трудоемкими.
Запуск расширяет усилия Amazon по расширению использования собственных силиконовых чипов в области обучения и вывода ИИ. Ускорители Trainium позволяют Amazon Web Services (AWS) предлагать вычислительные мощности на основе аппаратного обеспечения Amazon, а не полагаться исключительно на GPU Nvidia. Собственные чипы Amazon привлекли крупных клиентов в области ИИ, включая Anthropic, которая использует Trainium в вычислительном кластере Project Rainier от Anthropic. TorchNeuron может сделать Trainium доступным для большего числа разработчиков, которые иначе остались бы с Nvidia, поскольку переключение требует слишком много усилий. Amazon сообщила, что более 30 ранних клиентов из таких областей, как робототехника, голосовой ИИ и модели мира, уже используют TorchNeuron. Более широкое внедрение может помочь AWS конкурировать по стоимости вычислений и простоте развертывания приложений ИИ.
Анонс не означает, что лидерство Nvidia вот-вот исчезнет. CUDA остается зрелой экосистемой, и Amazon все еще должен доказать конкурентоспособную производительность, надежность и экономическую эффективность Trainium при работе с требовательными рабочими нагрузками. Однако конкуренция может усииться, если разработчики смогут перемещать приложения между платформами с меньшими изменениями. Более простая миграция предоставит клиентам облачных сервисов больше гибкости и потенциально усилит переговорную позицию Amazon по вопросам стоимости ИИ-инфраструктуры.
Ключевой вопрос для инвесторов заключается в том, сможет ли Amazon превратить более простую миграцию программного обеспечения в устойчивый спрос на Trainium. Amazon стремится снизить программные барьеры, которые заставляют клиентов использовать чипы Nvidia, а не просто создавать альтернативное аппаратное обеспечение. Успех может ослабить программное преимущество, которое защищает Nvidia от конкуренции.
Amazon запускает TorchNeuron для запуска кода PyTorch на чипах Trainium
BenzingaПоделиться
Сводка
Amazon запустила TorchNeuron — открытый инструмент для запуска кода PyTorch на чипах Trainium с минимальными изменениями. Инструмент помогает разработчикам избежать переписывания приложений при переходе с CUDA от Nvidia. TorchNeuron позволяет запускать существующие модели PyTorch на Trainium всего лишь обновлением конфигурации, снижая затраты на переключение. Крупные компании в области ИИ, такие как Anthropic, уже используют Trainium, а более 30 ранних пользователей тестируют TorchNeuron. Эта новость на блокчейне знаменует сдвиг в новостях ИИ и криптовалют, поскольку Amazon бросает вызов доминированию Nvidia.
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.