Amazon utilise des puces Trainium personnalisées pour accélérer le modèle de diffusion de la diffusion en direct Prime 360

iconKuCoinFlash
Partager
AI summary iconRésumé
Amazon utilise des puces Trainium personnalisées pour alimenter les diffusions en direct Prime 360, désormais intégrées aux streams NBA sur Prime. Le système capture les images du terrain avec des caméras haute résolution et utilise un modèle de diffusion IA pour générer en temps réel des extraits cinématographiques. Le modèle effectue des milliards d'opérations par image, notamment des multiplications matricielles et un débruitage itératif. La conception « tile in, tile out » de Trainium divise les images en carreaux chevauchants pour un traitement parallèle, réduisant la latence d'inférence de plus de 40 %. Les données sur chaîne révèlent une augmentation de l'intérêt pour les altcoins à surveiller à mesure que cette technologie gagne en popularité grand public.
ME AI Message, Amazon introduit la technologie Prime 360 lors de certaines diffusions en direct des matchs NBA on Prime, capturant les images grâce à une matrice de caméras haute résolution entourant le terrain, et utilisant un modèle de diffusion AI pour construire des résumés cinématographiques immersifs frame par frame, intégrés directement dans le flux en direct. Selon AmazonScience, ce modèle de diffusion nécessite des dizaines de milliards d'opérations mathématiques par frame, incluant des multiplications matricielles, des calculs d'attention et des itérations de débruitage ; pour répondre aux exigences en temps réel, Amazon a développé une puce AI dédiée appelée Trainium. Trainium utilise une architecture « tile in, tile out » optimisée pour les processus où les entrées et sorties sont de grands tenseurs ; le modèle de diffusion de Prime 360 divise ainsi chaque frame en plusieurs dizaines de tuiles chevauchantes traitées séparément, réduisant la latence d'inférence du modèle de diffusion de plus de 40 %. Jusqu'à présent, les puces développées en interne étaient principalement utilisées pour soutenir l'infrastructure cloud AWS ; cette fois-ci, elles sont directement visibles sur les écrans de plusieurs millions d'auditeurs. (Source : InFoQ)
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.