Amazon lance TorchNeuron pour défier la domination logicielle d’Nvidia dans l’IA

iconFLASH AI
Partager
AI summary iconRésumé
Amazon a lancé TorchNeuron, un nouvel outil pour les développeurs d'IA afin d'exécuter des applications PyTorch sur les puces AWS Trainium avec des modifications minimales de code. Cet outil réduit la dépendance de PyTorch au logiciel CUDA d'Nvidia. AWS affirme que les développeurs peuvent passer à Trainium avec une seule ligne de configuration. L'entreprise contribuera également du code à PyTorch pour le rendre moins dépendant du matériel. Les startups utilisant Trainium pour l'entraînement et l'inférence peuvent réduire leurs coûts. Deepgram a signalé une augmentation de 70 % du traitement audio par dollar après le passage. Cette actualité IA + crypto met en lumière l'engagement d'AWS dans les actualités sur chaîne et l'infrastructure IA.

Amazon Web Services a lancé TorchNeuron lundi pour aider les startups en intelligence artificielle à déplacer leurs applications sur les puces Trainium d'Amazon. L'outil remet en question l'avantage logiciel qui a aidé Nvidia à devenir le choix matériel par défaut pour les applications d'IA. Amazon affirme que TorchNeuron permet aux applications écrites avec PyTorch de s'exécuter sur Trainium en modifiant simplement une ligne de configuration, sans avoir à réécrire le code.

PyTorch est un outil gratuit et open source pour créer, entraîner et exécuter des modèles d'IA. Amazon affirme qu'environ 85 % des applications d'IA sont écrites avec PyTorch. Facebook a initialement développé PyTorch, qui fait partie de la Linux Foundation depuis 2022. La Linux Foundation maintient des projets open source. Nvidia a passé des années à garantir que CUDA, l'infrastructure logicielle pour exécuter des applications sur le matériel Nvidia, prend en charge de manière transparente les applications PyTorch. Le matériel Nvidia est ainsi devenu profondément intégré à PyTorch, pratiquement par défaut.

TorchNeuron est dérivé de PyTorch, donc les développeurs familiers avec PyTorch savent déjà comment l'utiliser. Les utilisateurs de PyTorch peuvent également déplacer des applications vers des GPU AMD ou les puces Apple avec un simple changement de configuration. Toutefois, Amazon affirme que passer à Trainium donne également aux startups d'IA accès à l'ensemble du cloud d'Amazon. AWS prétend que AWS est un meilleur choix pour les startups que des fournisseurs de cloud spécialisés tels que Coreweave, Nebius et Firmus, qui sont liés au matériel Nvidia.

Colin Brace est vice-président du logiciel technologique chez AWS Annapurna Labs, l'unité qui conçoit les puces personnalisées d'Amazon. Brace a déclaré qu'AWS fournit déjà l'infrastructure dont les fondateurs ont besoin pour passer des prototypes à la production et étendre leurs opérations si nécessaire. AWS affirme que Trainium gère à la fois l'entraînement des modèles et l'inférence, lorsque les modèles terminés effectuent des tâches telles que répondre aux questions des utilisateurs. AWS soutient que l'utilisation d'une même puce pour les deux tâches, étroitement intégrée à l'infrastructure cloud, permettra aux startups de réduire leurs coûts, même sans le prix le plus bas par token. Brace a indiqué que Trainium améliore les coûts sur l'ensemble d'une charge de travail grâce à son rapport prix-performance et à une plateforme unique pour l'entraînement et l'inférence. Brace a ajouté que Deepgram a migré vers Trainium en utilisant la prise en charge native de PyTorch et traite 70 % d'audio en plus par dollar avec une précision de niveau production. Deepgram propose des applications vocales par intelligence artificielle et concurrence ElevenLabs.

Amazon indique que l'entreprise travaille également à réduire le centrage automatique de PyTorch sur Nvidia. Amazon affirme qu'elle contribuera du code au projet principal PyTorch pour soutenir cet effort. L'annonce d'Amazon précise que l'entreprise collabore avec la communauté PyTorch pour supprimer le code qui lie le framework à des puces spécifiques. Amazon affirme que l'objectif est de rendre PyTorch moins dépendant d'hardware particulier pour tous les développeurs, et non seulement pour les utilisateurs de Trainium.

Cet effort profite aux fournisseurs de matériel et de cloud qui concurrencent Nvidia. Toutefois, PyTorch vise en partie à protéger les développeurs des difficultés liées à l'exécution de code IA sur du matériel. Réduire la dépendance de PyTorch à Nvidia pourrait offrir davantage de choix et des options plus abordables, comme le promet Amazon, ou créer davantage de complexités de configuration. Séparer avec succès PyTorch de Nvidia pourrait avoir des conséquences plus importantes pour Nvidia que la simple concurrence d'autres fabricants de puces. Brace a qualifié cet effort de suppression des restrictions qui empêchaient les développeurs d'avoir un véritable choix.

Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.