A Amazon introduziu o TorchNeuron, uma ferramenta de código aberto projetada para executar código de IA baseado em PyTorch nos chips Trainium da Amazon com mínimas modificações. A Amazon pode ter encontrado uma maneira de desafiar a vantagem de software da Nvidia, reduzindo a necessidade de os desenvolvedores reescreverem código. O anúncio do TorchNeuron da Amazon afirma que os desenvolvedores podem executar código PyTorch existente no Trainium com uma alteração de configuração, em vez de reescrever aplicações inteiras.
A vantagem de IA da Nvidia vai além dos chips para o CUDA, o ecossistema de software no qual os desenvolvedores confiam para criar e executar cargas de trabalho de IA. Os desenvolvedores passaram anos construindo fluxos de trabalho em torno do CUDA, criando custos de mudança além do desempenho do hardware. Esses custos tornam os chips concorrentes menos capazes de atrair cargas de trabalho, mesmo quando oferecem economias atraentes. O TorchNeuron visa o tempo e a despesa de engenharia envolvidos na adaptação de software para uma plataforma de computação diferente. O PyTorch é amplamente utilizado em toda a pesquisa e desenvolvimento de IA. A Amazon não precisa substituir imediatamente o CUDA para tornar a experimentação com uma alternativa menos custosa e demorada.
O lançamento se baseia nos esforços da Amazon para expandir o silicon personalizado em treinamento e inferência de IA. Os aceleradores Trainium permitem que o Amazon Web Services (AWS) ofereça capacidade de computação usando o hardware da Amazon, em vez de depender inteiramente das GPUs da Nvidia. Os chips personalizados da Amazon atraíram grandes clientes de IA, incluindo a Anthropic, que utiliza o Trainium no cluster de computação Project Rainier da Anthropic. O TorchNeuron pode tornar o Trainium acessível a mais desenvolvedores que, de outra forma, permaneceriam com a Nvidia, pois a mudança exige muito trabalho. A Amazon afirmou que mais de 30 clientes iniciais em áreas como robótica, IA de voz e modelos mundiais estão usando o TorchNeuron. Uma adoção mais ampla pode ajudar o AWS a competir em termos de custos de computação e facilidade de implantação de aplicações de IA.
O anúncio não significa que a liderança da Nvidia está prestes a desaparecer. O CUDA permanece um ecossistema maduro, e a Amazon ainda precisa demonstrar o desempenho competitivo, a confiabilidade e a economia do Trainium em cargas de trabalho exigentes. No entanto, a pressão competitiva poderia aumentar se os desenvolvedores conseguirem mover aplicações entre plataformas com menos alterações. Uma migração mais fácil daria aos clientes de nuvem mais flexibilidade e potencialmente fortaleceria o poder de negociação da Amazon sobre os custos de infraestrutura de IA.
A questão-chave para os investidores é se a Amazon pode converter a migração de software mais fácil em demanda sustentada por Trainium. A Amazon está tentando reduzir as barreiras de software que mantêm os clientes usando os chips da Nvidia, e não apenas construir hardware alternativo. O sucesso poderia enfraquecer a vantagem de software que protege a Nvidia da concorrência.
A Amazon lança o TorchNeuron para executar código PyTorch em chips Trainium
BenzingaCompartilhar
Resumo
A Amazon lançou o TorchNeuron, uma ferramenta de código aberto para executar código PyTorch em chips Trainium com mudanças mínimas. A ferramenta ajuda os desenvolvedores a evitar a reescrita de aplicativos ao migrar da CUDA da Nvidia. O TorchNeuron permite que modelos PyTorch existentes sejam executados no Trainium com apenas uma atualização de configuração, reduzindo os custos de migração. Grandes empresas de IA, como a Anthropic, já utilizam o Trainium, e mais de 30 primeiros adotantes estão testando o TorchNeuron. Esta notícia on-chain marca uma mudança nas notícias de IA + criptomoeda, à medida que a Amazon desafia o domínio da Nvidia.
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações.
Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.