À medida que os data centers de IA continuam a crescer, a discussão sobre a vantagem competitiva da NVIDIA também está mudando. A mídia internacional TechCrunch comentou que, anteriormente, os investidores se concentravam mais em se os chips desenvolvidos internamente pelos provedores de nuvem enfraqueceriam os GPUs, mas, após o último relatório financeiro, o mercado começou a direcionar sua atenção para outra questão: quem conseguirá fazer todo o sistema de IA funcionar de forma eficiente.
O foco da competição mudou para o sistema
O artigo argumenta que a implantação de capacidade de IA está evoluindo em direção a maior potência e clusters maiores, e que analisar apenas as GPUs não é suficiente para explicar o cenário competitivo. Quanto maiores os data centers, mais complexa se torna a sinergia entre dados, armazenamento, rede e computação. As GPUs permanecem como componentes centrais, mas cada vez mais é a capacidade do sistema fora das GPUs que determina a eficiência.
Essa também é a essência da mudança na narrativa atual da NVIDIA. Mesmo que grandes fornecedores de nuvem, como Amazon e Google, continuem avançando com seus próprios chips, a NVIDIA ainda está construindo um conjunto mais completo de infraestrutura ao redor das GPUs. O artigo resume isso como: se a GPU for o motor, o restante do sistema é o carro inteiro.
Vera Rubin cobre mais etapas
A TechCrunch mencionou que a NVIDIA está avançando com a arquitetura Vera Rubin. Essa arquitetura não inclui apenas a GPU Rubin, mas também a CPU Vera, além de sistemas de rack voltados para armazenamento, rede e outros componentes. O artigo considera que o significado desses produtos é que eles não são responsáveis diretamente pela geração de tokens, mas sim por minimizar perdas de desempenho fora da GPU.
Nesse contexto, a Vera CPU é descrita como um componente essencial para o agendamento de dados. Jason Hardy, vice-presidente de tecnologia de armazenamento da NVIDIA, afirmou que a memória que pode ser acomodada em um único servidor ou plataforma de computação é limitada, tornando crucial a capacidade de enviar os dados para a GPU no momento adequado.
Os dados se tornam um novo campo de batalha
O artigo cita Hardy afirmando que, em algumas operações relacionadas, o aceleração trazida pela Vera CPU pode atingir cerca de 3 vezes. Isso significa que recursos de hardware, como armazenamento flash, podem ser utilizados de forma mais eficiente, e os gargalos do sistema também têm potencial para diminuir.
O artigo também menciona que problemas semelhantes não existem apenas no sistema da NVIDIA. Ao apresentar anteriormente o chip Jalapeño, a OpenAI também listou a redução da movimentação de dados e da latência de comunicação como objetivos principais. Sua abordagem consiste em manter a carga de trabalho completa dentro de um sistema interconectado, para reduzir as perdas causadas pela transferência entre módulos.
Para o TechCrunch, isso indica que a competição na infraestrutura de IA está entrando em uma nova fase. As empresas não estão mais apenas competindo pela capacidade de processamento dos chips, mas também pela forma como os dados fluem, como o armazenamento se integra e como a rede evita congestionamentos. Em outras palavras, o nível de competição está mudando de “quem tem GPUs mais potentes” para “quem consegue fazer todo o sistema operar com maior eficiência”.
O artigo argumenta que essa mudança não significa que a NVIDIA já garantiu a vitória. Ela ainda enfrenta concorrência de outros fabricantes de chips e grandes provedores de nuvem. Mas, neste estágio, a NVIDIA ainda se destaca em integração e capacidade de agendamento de sistemas, o que é uma das principais razões para a reavaliação do mercado sobre sua vantagem em IA.