Amazon presentó TorchNeuron, una herramienta de código abierto diseñada para ejecutar código de IA basado en PyTorch en los chips Trainium de Amazon con modificaciones mínimas. Amazon podría haber encontrado una forma de desafiar la ventaja software de Nvidia al reducir la necesidad de que los desarrolladores reescriban código. El anuncio de TorchNeuron de Amazon indica que los desarrolladores pueden ejecutar código PyTorch existente en Trainium con un cambio de configuración en lugar de reescribir aplicaciones completas.
La ventaja de Nvidia en inteligencia artificial va más allá de los chips hasta CUDA, el ecosistema de software del que dependen los desarrolladores para construir y ejecutar cargas de trabajo de IA. Los desarrolladores han pasado años creando flujos de trabajo basados en CUDA, generando costos de cambio que van más allá del rendimiento del hardware. Estos costos hacen que los chips competidores tengan menos capacidad para atraer cargas de trabajo, incluso cuando ofrecen economías atractivas. TorchNeuron aborda el tiempo y el gasto de ingeniería involucrados en adaptar software a una plataforma de cómputo diferente. PyTorch es ampliamente utilizado en la investigación y desarrollo de IA. Amazon no necesita reemplazar inmediatamente a CUDA para hacer que experimentar con una alternativa sea menos costoso y menos demorado.
El lanzamiento se basa en el esfuerzo de Amazon para expandir la silicona personalizada en el entrenamiento y la inferencia de IA. Los aceleradores Trainium permiten a Amazon Web Services (AWS) ofrecer capacidad de cómputo utilizando el hardware de Amazon en lugar de depender completamente de las GPU de Nvidia. Los chips personalizados de Amazon han atraído a importantes clientes de IA, incluyendo a Anthropic, que utiliza Trainium en el clúster de cómputo Project Rainier de Anthropic. TorchNeuron podría hacer que Trainium sea accesible para más desarrolladores que de otro modo se quedarían con Nvidia, ya que cambiar requiere demasiado esfuerzo. Amazon ha indicado que más de 30 clientes iniciales en campos como la robótica, la IA vocal y los modelos mundiales están utilizando TorchNeuron. Una adopción más amplia podría ayudar a AWS a competir en términos de costos de cómputo y facilidad para implementar aplicaciones de IA.
El anuncio no significa que la ventaja de Nvidia esté a punto de desaparecer. CUDA sigue siendo un ecosistema maduro, y Amazon aún debe demostrar el rendimiento competitivo, la confiabilidad y la economía de Trainium en cargas de trabajo exigentes. Sin embargo, la presión competitiva podría aumentar si los desarrolladores pueden mover aplicaciones entre plataformas con menos cambios. Una migración más fácil otorgaría a los clientes en la nube mayor flexibilidad y potencialmente fortalecería el poder de negociación de Amazon sobre los costos de infraestructura de IA.
La pregunta clave para los inversores es si Amazon puede convertir una migración de software más sencilla en una demanda sostenida de Trainium. Amazon está tratando de reducir las barreras de software que mantienen a los clientes usando los chips de Nvidia, no simplemente construir hardware alternativo. El éxito podría debilitar la ventaja de software que protege a Nvidia de la competencia.
Amazon lanza TorchNeuron para ejecutar código PyTorch en chips Trainium
BenzingaCompartir
Resumen
Amazon lanzó TorchNeuron, una herramienta de código abierto para ejecutar código PyTorch en chips Trainium con cambios mínimos. La herramienta ayuda a los desarrolladores a evitar reescribir aplicaciones al pasar de CUDA de Nvidia. TorchNeuron permite que los modelos PyTorch existentes se ejecuten en Trainium con solo una actualización de configuración, reduciendo los costos de cambio. Empresas de IA importantes como Anthropic ya usan Trainium, y más de 30 adoptadores tempranos están probando TorchNeuron. Esta noticia en la cadena marca un cambio en las noticias de IA + cripto, ya que Amazon desafía el dominio de Nvidia.
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.