source avatartwoeraserheads 🇨🇦

Compartilhar

Qual problema os CPOs resolvem? Clusters de treinamento e inferência de IA não são apenas limitados por computação, mas também fundamentalmente limitados por rede. À medida que os clusters de GPU escalam para dezenas ou centenas de milhares de GPUs, três barreiras surgem simultaneamente: 1. A barreira de largura de banda: cada nova geração de GPU (H100 → B200 → Rubin) exige muito mais largura de banda de E/S por chip para manter a computação abastecida. A largura de banda do interconector precisa crescer mais rápido do que os FLOPs de computação (operações de ponto flutuante por segundo, que é uma unidade usada para medir o poder de processamento de um computador para matemática complexa), ou você terá GPUs ociosas aguardando dados. 2. A barreira de potência: um conceito de data center de IA em escala de gigawatt, descrito por Jensen Huang da Nvidia, imagina instalações consumindo um gigawatt ou mais de energia, e cada watt gasto para mover bits entre chips é um watt que não está sendo usado para computação. Sinais elétricos/opticos convencionais consomem muita energia apenas para enviar e receber dados de um pacote. 3. A barreira de alcance: interconectores de cobre (NVLink, trilhas PCIe) tornam-se perdedores e energivorous além de alguns metros nas velocidades de sinalização que a IA exige (100G+ por via). A óptica não tem essa penalidade de distância, mas converter entre os domínios elétrico e óptico custa energia e adiciona componentes. A óptica co-empacotada é a resposta para as três ao mesmo tempo: em vez de converter dados em luz na borda de uma placa, você move o motor óptico o mais próximo possível do silício que está gerando os dados. Isso significa no mesmo substrato do pacote que o ASIC do switch ou da própria GPU.

Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.