Le géant des semi-conducteurs d'infrastructure de données, Marvell Technology, a annoncé le lancement d'une nouvelle gamme de solutions mémoire conçues pour les infrastructures IA, couvrant le stockage IA de niveau serveur, l'extension et le partage mémoire CXL au niveau du rack, ainsi que la mémoire partagée par interconnexion optique entre plusieurs armoires, dans le but de résoudre les goulets d'étranglement croissants en capacité et en bande passante mémoire lors de l'inférence Agentic AI. Marvell indique qu'avec l'augmentation de la taille des modèles IA, l'allongement des fenêtres de contexte et la demande croissante de KV Cache, l'architecture traditionnelle fortement couplée calcul-mémoire limite l'efficacité de l'inférence IA. Grâce à la désagrégation mémoire (memory disaggregation), les ressources mémoire peuvent être étendues indépendamment des ressources de calcul, augmentant ainsi l'utilisation des GPU et réduisant la latence de déplacement des données.
Marvell lance des solutions mémoire pour infrastructures IA pour résoudre les goulots d'étranglement de l'inférence agente en IA
TechFlowPartager
Résumé
Marvell présente des solutions de mémoire pour l'infrastructure IA afin de résoudre les goulots d'étranglement de l'inférence Agentic AI. Les nouvelles offres incluent un stockage IA au niveau serveur, une extension de mémoire CXL au niveau baie et une mémoire partagée par interconnexion optique entre plusieurs armoires. À mesure que les modèles IA grandissent, la séparation entre mémoire et calcul devient cruciale. La désagrégation de la mémoire améliore l'efficacité des GPU et réduit la latence. Les actualités sur l'IA et la crypto continuent de mettre en avant l'innovation infrastructurelle. Les nouveaux listings de jetons suivent souvent les avancées technologiques majeures dans ce domaine.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.