¿Qué problemas resuelven los CPO? Los clusters de entrenamiento e inferencia de IA no solo están limitados por el cómputo, sino también fundamentalmente por la red. A medida que los clusters de GPU escalan hasta decenas o cientos de miles de GPUs, aparecen tres barreras simultáneamente: 1. La barrera de ancho de banda: cada nueva generación de GPU (H100 → B200 → Rubin) requiere un ancho de banda de E/S significativamente mayor por chip para mantener alimentado el cómputo. El ancho de banda del interconector debe crecer más rápido que los FLOPs de cómputo (operaciones de punto flotante por segundo, una unidad utilizada para medir el poder de procesamiento de una computadora para matemáticas complejas), o de lo contrario se obtienen GPUs inactivas esperando datos. 2. La barrera de potencia: un concepto de centro de datos de IA a escala de gigavatio, descrito por Jensen Huang de Nvidia, imagina instalaciones que consumen un gigavatio o más de energía, y cada vatio gastado en mover bits entre chips es un vatio que no se gasta en cómputo. La señalización eléctrica/u óptica convencional consume mucha energía simplemente para introducir y extraer datos de un paquete. 3. La barrera de alcance: los interconectores de cobre (NVLink, pistas PCIe) se vuelven ineficientes y consumen mucha energía más allá de unos pocos metros a las velocidades de señalización que requiere la IA (100G+ por canal). La tecnología óptica no tiene esta penalización de distancia, pero la conversión entre dominios eléctricos y ópticos consume energía y añade componentes. La óptica empaquetada conjuntamente es la solución a las tres al mismo tiempo: en lugar de convertir los datos a luz en el borde de una placa, se mueve el motor óptico tan cerca como sea físicamente posible del silicio que genera los datos. Esto significa en el mismo sustrato del paquete que el ASIC del conmutador o la propia GPU.
twoeraserheads 🇨🇦Compartir
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.