Amazon a introduit TorchNeuron, un outil open-source conçu pour exécuter du code AI basé sur PyTorch sur les puces Trainium d'Amazon avec des modifications minimales. Amazon pourrait avoir trouvé un moyen de remettre en question l'avantage logiciel de Nvidia en réduisant la nécessité pour les développeurs de réécrire du code. L'annonce d'Amazon sur TorchNeuron indique que les développeurs peuvent exécuter du code PyTorch existant sur Trainium avec un changement de configuration plutôt que de réécrire des applications entières.
L'avantage d'Nvidia en matière d'IA dépasse les puces pour s'étendre à CUDA, l'écosystème logiciel sur lequel les développeurs s'appuient pour créer et exécuter des charges de travail IA. Les développeurs ont passé des années à construire des flux de travail autour de CUDA, créant des coûts de changement au-delà des performances matérielles. Ces coûts rendent les puces concurrentes moins capables d'attirer des charges de travail, même lorsqu'elles offrent une économie attrayante. TorchNeuron cible le temps et les dépenses d'ingénierie nécessaires pour adapter un logiciel à une autre plateforme de calcul. PyTorch est largement utilisé dans la recherche et le développement IA. Amazon n'a pas besoin de remplacer CUDA immédiatement pour rendre l'expérimentation avec une alternative moins coûteuse et moins chronophage.
Le lancement s'appuie sur les efforts d'Amazon pour étendre sa puce personnalisée à l'entraînement et à l'inférence de l'IA. Les accélérateurs Trainium permettent à Amazon Web Services (AWS) d'offrir une capacité de calcul en utilisant le matériel d'Amazon plutôt que de compter entièrement sur les GPU Nvidia. Les puces personnalisées d'Amazon ont attiré de grands clients de l'IA, notamment Anthropic, qui utilise Trainium dans le cluster de calcul Project Rainier d'Anthropic. TorchNeuron pourrait rendre Trainium accessible à davantage de développeurs qui sinon resteraient chez Nvidia, car le changement exige trop d'efforts. Amazon a indiqué que plus de 30 clients initiaux, dans des domaines tels que la robotique, l'IA vocale et les modèles mondiaux, utilisent TorchNeuron. Une adoption plus large pourrait aider AWS à rivaliser sur les coûts de calcul et la facilité de déploiement des applications d'IA.
L'annonce ne signifie pas que le leadership de Nvidia va disparaître. CUDA reste un écosystème mature, et Amazon doit encore démontrer la performance compétitive, la fiabilité et l'économie de Trainium sur des charges de travail exigeantes. Toutefois, la pression concurrentielle pourrait augmenter si les développeurs peuvent déplacer des applications entre plateformes avec moins de modifications. Une migration plus facile offrirait aux clients du cloud plus de flexibilité et renforcerait potentiellement le pouvoir de négociation d'Amazon sur les coûts de l'infrastructure IA.
La question clé pour les investisseurs est de savoir si Amazon peut transformer une migration logicielle plus facile en une demande soutenue pour Trainium. Amazon cherche à réduire les barrières logicielles qui poussent les clients à utiliser les puces Nvidia, et non pas simplement à développer du matériel alternatif. Le succès pourrait affaiblir l'avantage logiciel qui protège Nvidia de la concurrence.
Amazon lance TorchNeuron pour exécuter du code PyTorch sur les puces Trainium
BenzingaPartager
Résumé
Amazon a lancé TorchNeuron, un outil open-source permettant d'exécuter du code PyTorch sur les puces Trainium avec des modifications minimales. Cet outil aide les développeurs à éviter de réécrire leurs applications lorsqu'ils passent de CUDA d'Nvidia. TorchNeuron permet aux modèles PyTorch existants de fonctionner sur Trainium avec simplement une mise à jour de configuration, réduisant ainsi les coûts de transition. De grandes entreprises d'IA comme Anthropic utilisent déjà Trainium, et plus de 30 précurseurs testent TorchNeuron. Cette actualité sur chaîne marque un changement dans les actualités IA + crypto, alors qu'Amazon remet en question la domination d'Nvidia.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.