IT之家, 20 octobre — Le 19 octobre, Amazon a annoncé le lancement de l'outil open source TorchNeuron, qui permet aux développeurs d'exécuter localement leur code PyTorch sur les puces Trainium développées par Amazon, avec une seule modification de configuration, sans nécessiter de réécriture.
IT之家 apprend que TorchNeuron sera officiellement publié sous licence open source le 20 octobre, heure locale, lors de la conférence PyTorch North America à San José, en Californie.
PyTorch est un framework open source dirigé par Meta, adopté par la majorité des développeurs d'intelligence artificielle. NVIDIA a investi plus de dix ans à développer l'outil CUDA, permettant d'exécuter efficacement le code PyTorch sur les puces NVIDIA.
Selon les informations fournies, les ingénieurs d'Amazon ont exécuté le même script d'entraînement IA sur des puces traditionnelles et sur des puces Trainium. La seule différence résidait dans les paramètres de configuration spécifiant la puce utilisée dans le code. Les résultats ont montré que le modèle IA a appris exactement les mêmes contenus et à la même vitesse dans les deux environnements. Cela signifie que les outils utilisés par les développeurs pour tester, déboguer et étendre leurs modèles IA peuvent être utilisés directement sur Trainium sans aucune modification.
Amazon affirme que TorchNeuron apporte à l'industrie de l'intelligence artificielle un élément clé longtemps absent : une véritable liberté de choix. Lorsque les développeurs peuvent basculer librement entre différents processeurs sans coût supplémentaire, les fabricants de puces doivent concourir en proposant des produits plus compétitifs pour séduire les développeurs ; ces derniers en tirent alors profit grâce à une réduction des coûts et à une accélération de leur cycle d'itération.
En outre, Amazon participe activement au développement amont de PyTorch en collaborant avec la communauté PyTorch pour supprimer le code qui lie ce framework à des puces spécifiques. Son objectif est de rendre PyTorch plus « indépendant du matériel » pour l'ensemble de la communauté des développeurs, et pas seulement pour les utilisateurs de Trainium.