IT之家 10 de outubro de 2023 — Em 19 de outubro, localmente, a Amazon anunciou o lançamento da ferramenta de código aberto TorchNeuron, que permite que o código PyTorch escrito por desenvolvedores seja executado nativamente nos chips Trainium de propriedade da Amazon, exigindo apenas uma alteração de configuração, sem necessidade de reescrita.
A IT之家 informa que o TorchNeuron será lançado oficialmente sob licença de código aberto no PyTorch North America, que ocorrerá em San Jose, Califórnia, em 20 de outubro, horário local.
PyTorch é um framework de código aberto liderado pelo Meta, adotado pela maioria dos desenvolvedores de inteligência artificial. A NVIDIA investiu mais de uma década no desenvolvimento da ferramenta CUDA, que permite que o código PyTorch seja executado com eficiência nos chips da NVIDIA.
Segundo informações, engenheiros da Amazon executaram o mesmo script de treinamento de IA em chips tradicionais e em chips Trainium. A única diferença foi nos parâmetros de configuração especificados no código para indicar o chip utilizado. Os resultados mostraram que o modelo de IA aprendeu exatamente o mesmo conteúdo e na mesma velocidade em ambos os ambientes. Isso significa que as ferramentas originalmente usadas pelos desenvolvedores para testar, depurar e escalar modelos de IA podem ser usadas diretamente no Trainium sem nenhuma modificação.
A Amazon afirma que o TorchNeuron traz um elemento-chave há muito ausente para a indústria de inteligência artificial: uma opção verdadeiramente viável. Quando os desenvolvedores puderem alternar livremente entre diferentes chips sem incorrer em custos adicionais, os fabricantes de chips serão obrigados a ganhar a preferência dos desenvolvedores oferecendo produtos mais competitivos; enquanto os desenvolvedores se beneficiarão com redução de custos e aumento da velocidade de iteração.
Além disso, a Amazon está ativamente envolvida no desenvolvimento upstream do PyTorch, colaborando com a comunidade PyTorch para remover código que vincula o framework a chips específicos. Seu objetivo é tornar o PyTorch mais “independente de hardware” para toda a comunidade de desenvolvedores, e não apenas para usuários do Trainium.