source avatartwoeraserheads 🇨🇦

Partager

Quels problèmes les CPO résolvent-ils ? Les clusters d'entraînement et d'inférence IA ne sont pas seulement limités par le calcul, mais aussi fondamentalement par le réseau. À mesure que les clusters GPU s'échelonnent à des dizaines ou des centaines de milliers de GPU, trois obstacles apparaissent simultanément : 1. Le mur de la bande passante : chaque nouvelle génération de GPU (H100 → B200 → Rubin) nécessite un débit I/O beaucoup plus élevé par puce pour alimenter le calcul. La bande passante d'interconnexion doit croître plus rapidement que les performances en FLOPS (opérations en virgule flottante par seconde, unité utilisée pour mesurer la puissance de traitement d'un ordinateur pour les calculs complexes), sinon les GPU restent inactifs en attendant les données. 2. Le mur de la puissance : un concept de centre de données IA à l'échelle du gigawatt, tel que décrit par Jensen Huang de Nvidia, imagine des installations consommant un gigawatt ou plus d'énergie, où chaque watt dépensé pour déplacer des bits entre puces est un watt qui n'est pas utilisé pour le calcul. La signalisation électrique/optique conventionnelle consomme beaucoup d'énergie simplement pour transférer les données à l'intérieur et à l'extérieur d'un package. 3. Le mur de la portée : les interconnexions en cuivre (NVLink, pistes PCIe) deviennent lossy et gourmandes en énergie au-delà de quelques mètres aux vitesses de signalisation requises par l'IA (100 Gbit/s et plus par voie). L'optique ne souffre pas de cette pénalité de distance, mais la conversion entre les domaines électrique et optique coûte de l'énergie et ajoute des composants. L'optique co-emballée est la solution à ces trois problèmes à la fois : au lieu de convertir les données en lumière à la périphérie d'une carte, on déplace l'engine optique aussi près que possible du silicium qui génère les données, c'est-à-dire sur le même substrat de package que l'ASIC de commutation ou le GPU lui-même.

Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.