IT之家 10 de octubre, según informes locales del 19 de octubre, Amazon anunció el lanzamiento de la herramienta de código abierto TorchNeuron, que permite que el código PyTorch escrito por desarrolladores se ejecute nativamente en los chips Trainium de Amazon con solo un cambio de configuración, sin necesidad de reescribirlo.
IT之家 informa que TorchNeuron se lanzará oficialmente bajo licencia de código abierto el 20 de octubre en la conferencia PyTorch North America en San José, California.
PyTorch es un marco de código abierto liderado por Meta, adoptado por la mayoría de los desarrolladores de inteligencia artificial. NVIDIA ha invertido más de una década en desarrollar la herramienta CUDA, que permite que el código de PyTorch se ejecute de manera eficiente en los chips de NVIDIA.
Según se informa, los ingenieros de Amazon ejecutaron el mismo script de entrenamiento de IA en chips tradicionales y en chips Trainium. La única diferencia fue el parámetro de configuración que especificaba el chip utilizado en el código. Los resultados mostraron que el modelo de IA aprendió exactamente lo mismo en ambos entornos y a la misma velocidad. Esto significa que las herramientas que los desarrolladores ya utilizaban para probar, depurar y escalar modelos de IA pueden usarse directamente en Trainium sin ninguna modificación.
Amazon afirma que TorchNeuron aporta al sector de la inteligencia artificial un elemento clave que llevaba tiempo ausente: una verdadera opción viable. Cuando los desarrolladores puedan cambiar libremente entre diferentes chips sin incurrir en costos adicionales, los fabricantes de chips deberán competir ofreciendo productos más atractivos para ganar la preferencia de los desarrolladores; mientras que los desarrolladores se beneficiarán con reducciones en costos y un mayor ritmo de iteración.
Además, Amazon está participando activamente en el desarrollo upstream de PyTorch, colaborando con la comunidad de PyTorch para eliminar el código que vincula el marco a chips específicos. Su objetivo es hacer que PyTorch sea más "independiente del hardware" para toda la comunidad de desarrolladores, no solo para los usuarios de Trainium.