Le fabricant de semi-conducteurs pour infrastructures de données, Marvell Technology, a annoncé le lancement de ses solutions de mémoire et de stockage dédiées à l'infrastructure IA du 4 au 6 août. Marvell indique qu'avec l'expansion des performances d'inférence pour l'IA agente, la capacité mémoire, la bande passante et la connectivité des données deviennent aussi cruciales que la puissance de calcul. Les modèles de plus grande taille, les fenêtres de contexte plus longues et la demande croissante de KV Cache stimulent une demande sans précédent pour les ressources mémoire dans les systèmes IA. L'entreprise affirme que ses technologies de mémoire et de stockage IA permettent aux clients d'améliorer l'utilisation du matériel, d'augmenter l'efficacité du traitement des tokens et d'atteindre un meilleur équilibre entre performance, consommation énergétique et coûts en rapprochant les données des unités de calcul et en réduisant la latence. Alors que les modèles IA continuent de s'agrandir, l'architecture traditionnelle « calcul d'abord » évolue vers une approche « optimisation conjointe du calcul, de la mémoire et des interconnexions ». De nouvelles infrastructures, telles que CXL, le stockage à haute vitesse et les interconnexions optiques, pourraient devenir des orientations technologiques clés pour le prochain stade d'expansion des centres de données IA.
Marvell lancera des solutions de mémoire et de stockage pour l'infrastructure IA
TechFlowPartager
Marvell lancera des solutions de mémoire et de stockage pour l'infrastructure IA
Marvell Technology dévoilera des solutions de mémoire et de stockage pour l'infrastructure IA du 4 au 6 août, une mise à jour importante dans les actualités IA + crypto. À mesure que l'inférence agente IA s'étend, la capacité mémoire, la bande passante et la connectivité des données deviennent aussi critiques que la puissance de calcul. Des modèles plus volumineux, des fenêtres de contexte étendues et une demande croissante de cache KV stimulent des besoins mémoire sans précédent dans les systèmes IA. L'entreprise affirme que ses solutions peuvent améliorer l'utilisation du matériel, l'efficacité du traitement des jetons et équilibrer performance, consommation énergétique et coût. Les architectures traditionnelles « calcul d'abord » évoluent vers une co-optimisation du calcul, de la mémoire et des interconnexions, avec des technologies comme CXL, le stockage à haute vitesse et les interconnexions optiques censées jouer un rôle clé dans l'expansion des centres de données IA. Ce développement est également lié aux actualités sur le lancement de jetons.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.