O GPT-6 revelou publicamente o uso de mais de 100.000 GPUs Grace Blackwell para treinamento, o que significa que a competição em modelos de ponta entrou na era de clusters ultraescaláveis.

Autor e fonte do artigo: ME News



TL;DR:

• O GPT-6 revelou publicamente o uso de mais de 100.000 GPUs Grace Blackwell para treinamento, o que significa que a competição em modelos de ponta entrou na era de clusters ultraescaláveis.
• As principais empresas de modelos da China não carecem de grande capacidade de processamento, mas informações públicas indicam que ainda existem diferenças significativas em relação à geração avançada de GPUs e à escala de implantação concentrada única.
• As empresas ByteDance, Kimi e DeepSeek estão expandindo sua infraestrutura de computação, mas atualmente estão mais concentradas na arquitetura Hopper ou em soluções substitutas nacionais, ainda distantes de clusters de nível Blackwell.
• O foco da competição em IA já passou de “ter ou não GPU” para “conseguir obter GPUs da última geração e organizar eficientemente de dezenas de milhares até centenas de milhares de chips”.
• Mesmo que o Blackwell não seja mais a arquitetura mais recente da NVIDIA, a tendência do Rubin de reduzir ainda mais os custos de treinamento significa que a vantagem competitiva pode continuar se concentrando nas capacidades de infraestrutura.

Por trás de 100 mil unidades Blackwell, a competição em grandes modelos entra na era da infraestrutura de computação

Quando Huang Renxun revelou a escala de treinamento do GPT-6 Astra, o foco do público não foi apenas o número “100 mil GPUs” em si, mas o novo paradigma de competição em IA que esse número representa.

Nos últimos anos, a competição entre grandes modelos foi frequentemente entendida como uma disputa por algoritmos, dados e capacidades de engenharia. Inovações na arquitetura do modelo, otimização de métodos de treinamento e melhoria da eficiência de inferência realmente determinam a capacidade final dos produtos de IA. Mas, a partir de 2026, uma tendência cada vez mais clara está se formando: à medida que o tamanho dos modelos continua a aumentar, a capacidade da infraestrutura em si tornou-se um fator crucial para determinar o limite tecnológico.

De acordo com as divulgações públicas de Jensen Huang, o treinamento do GPT-6 Astra utilizou mais de 100.000 GPUs Grace Blackwell, interconectadas em um cluster de alta velocidade por meio do NVLink72. Ele também mencionou que a próxima leva incluirá 400.000 GPUs, mas não revelou os modelos específicos nem a propriedade.

Independent of subsequent deployment details, this message sends a clear signal: training the most advanced models is shifting from competition involving trillions of parameters and thousands of GPUs to competition among clusters of tens of thousands or even hundreds of thousands of advanced GPUs.

O ponto crucial aqui não é apenas a quantidade.

Se for apenas comparar o número de GPUs, as empresas chinesas não estão totalmente desprovidas de grandes recursos de computação. A verdadeira diferença reside na capacidade de obter GPUs de última geração de alto desempenho e em fazer com que essas GPUs trabalhem em conjunto de forma eficiente dentro da mesma tarefa de treinamento.

Para modelos grandes, o desempenho máximo de uma única GPU é apenas o básico. Treinar um modelo grande exige a troca contínua de parâmetros e dados entre muitas GPUs. Se a eficiência da interconexão for insuficiente, mesmo com muitos chips disponíveis, não será possível formar uma capacidade de processamento eficaz.

Portanto, a competição em infraestrutura de IA evoluiu, em essência, de “quantos chips comprar” para “que tipo de sistema de computação construir”.

A distribuição de poder de computação das principais empresas de modelos da China apresenta uma diferença geracional em relação à era Blackwell

As informações públicas atuais indicam que a capacidade de computação das principais empresas de modelos da China está aumentando rapidamente, mas ainda apresenta uma diferença significativa em comparação com os clusters de treinamento de nível Blackwell representados pelo GPT-6 Astra.

A ByteDance é uma das empresas mais próximas do nível internacional líder em infraestrutura de poder de computação divulgada no país. Este ano, a ByteDance conectou aproximadamente 36.000 GPUs B200 através da Malásia. Esses chips pertencem à arquitetura Blackwell da NVIDIA e são da mesma geração dos GB200 utilizados pela Astra.

No entanto, é importante notar que este lote de B200 foi implantado no exterior. Ao apresentar publicamente a infraestrutura de IA na China, a ByteDance ainda utiliza principalmente a versão especial para a China com arquitetura Hopper, o H20, além de chips como o H800 anteriormente obtidos.

O que isso revela não é simplesmente uma diferença quantitativa, mas sim uma diferença na cadeia de suprimentos e no ambiente de implantação.

O Blackwell sofreu atualizações em relação ao Hopper em termos de capacidade de computação, memória de vídeo e capacidade de interconexão. Em especial, o GB200 não é simplesmente uma única GPU, mas combina a CPU Grace com a GPU Blackwell, conectando 72 GPUs no mesmo domínio de interconexão de alta velocidade por meio do sistema NVL72.

Para o treinamento de modelos grandes, a importância desse design de sistema está aumentando cada vez mais. Quanto maior o tamanho do modelo, maior a proporção de comunicação entre GPUs; a capacidade dos chips de cooperar de forma eficiente afeta diretamente a eficiência do treinamento.

A Moonshot por trás do Kimi também foi revelada como tendo obtido cerca de 20.000 GPUs Hopper por meio do Alibaba. A Bloomberg, citando fontes, afirmou que o modelo específico é o H200, mas o Alibaba negou essa afirmação sobre o modelo H200.

Se calculado com o H200, ele ainda pertence à arquitetura Hopper da geração anterior, enquanto o B200 já entrou na era Blackwell. Entre eles não existe uma simples substituição de novo por antigo, mas sim uma representação das capacidades de infraestrutura de IA em estágios diferentes.

A situação do DeepSeek é ainda mais especial.

DeepSeek despertou atenção global no início de 2025 com modelos de alta eficiência, e sua abordagem técnica demonstrou que a otimização de algoritmos e a eficiência de engenharia podem reduzir parcialmente a demanda por poder de computação. No entanto, conforme informações públicas, a empresa não divulgou a configuração completa de hardware para o treinamento do V4.

A transcrição vazada da reunião de interação com investidores de Liang Wenfeng mostra que, em maio, a empresa tinha cerca de 20.000 unidades de capacidade de processamento equivalente a H, das quais a maioria acabou de chegar, e futuras aquisições serão “basicamente da NVIDIA”. A Huawei forneceu ao DeepSeek uma capacidade de 950 equivalente a aproximadamente 16.000 unidades. Liang Wenfeng afirmou que esses chips nacionais equivalem a cerca de 4.000 unidades da série B da NVIDIA, suficientes apenas para o treinamento do modelo atual.

Essas informações refletem uma realidade: mesmo que as empresas chinesas já possuam uma quantidade significativa de capacidade de IA, ainda há uma lacuna de escala em relação ao uso concentrado de 100.000 GPUs avançadas da mesma geração em uma única tarefa de treinamento.

A verdadeira fraqueza da capacidade de computação de IA na China não é a falta de chips, mas a ausência de capacidade avançada de clusters.

Ao discutir a capacidade de computação da IA na China, é fácil cair em dois extremos.

Uma visão sustenta que a China carece completamente de chips de IA avançados, portanto não pode participar da competição; outra visão afirma que, desde que a quantidade de chips nacionais aumente, poderá rapidamente alcançar a NVIDIA.

Na verdade, a situação é mais complexa.

A capacidade de treinamento de IA é determinada por vários componentes, incluindo desempenho do chip, processamento avançado, capacidade de memória gráfica, interconexão de alta velocidade, design do servidor, fornecimento de energia do data center, ecossistema de software e capacidade de agendamento em larga escala.

A GPU é apenas uma das partes mais essenciais, mas não a totalidade.

A vantagem de longo prazo da NVIDIA não vem apenas do hardware GPU, mas também do ecossistema CUDA, tecnologias de interconexão de rede, soluções de servidores e do sistema completo formado com fornecedores de nuvem.

Na era Blackwell, essa vantagem do sistema foi ainda mais ampliada.

Quando um treinamento de modelo requer 100 mil GPUs, o problema já não é mais simplesmente adquirir dezenas de milhares de chips, mas sim como construir uma fábrica de computação grande o suficiente para operar de forma estável.

É por isso que, nos documentos públicos, empresas chinesas ainda não divulgaram casos de treinamento de modelos utilizando 100.000 GPUs avançadas da mesma geração.

As empresas chinesas estão aprimorando suas capacidades por meio de várias abordagens, incluindo o aumento da implantação de poder de computação no exterior, a expansão da adaptação de chips nacionais, a otimização da arquitetura de modelos e a melhoria da eficiência de treinamento. Essas abordagens têm valor, mas dificilmente poderão substituir completamente, em curto prazo, a vantagem de capacidade básica proporcionada pelos clusters de GPU mais avançados.

Nos últimos anos, a indústria de IA na China provou um fato: inovações em algoritmos podem reduzir significativamente algumas disparidades.

A aparição de empresas como a DeepSeek demonstra que equipes de engenharia excelentes podem alcançar avanços em condições de poder de computação limitado por meio de otimização da estrutura do modelo, ajuste de estratégias de treinamento e aumento da eficiência no uso de recursos.

Mas outro fato também é verdadeiro: à medida que a competição global entra na fase de modelos básicos da próxima geração, a importância da escala de poder de computação ainda aumentará.

A otimização de eficiência pode reduzir custos, mas é difícil alterar completamente os limites de capacidade impostos por hardware avançado e clusters em escala hiperdimensional.

Após Blackwell, a era Rubin pode aprofundar ainda mais a lacuna em infraestrutura

Mais importante ainda, o Blackwell não é o ponto final da atual rota tecnológica da NVIDIA.

A próxima arquitetura da NVIDIA, Vera Rubin, já entrou na fase de produção em massa. Segundo estimativas divulgadas pela NVIDIA, ao treinar grandes modelos MoE, a quantidade de GPUs necessária para o Rubin pode ser reduzida para cerca de um quarto da quantidade exigida pelo Blackwell.

Isso significa que, no futuro, a competição em IA pode entrar em um novo ciclo.

As empresas líderes possuem arquiteturas mais recentes, permitindo realizar treinamentos em maior escala com menos chips; o custo de treinamento mais baixo impulsiona as empresas a realizar mais experimentos, aprimorando ainda mais a capacidade dos modelos.

Empresas atrasadas que só conseguem acessar hardware da geração anterior podem enfrentar dois problemas: por um lado, baixa eficiência no treinamento, e por outro, dificuldade em competir com os modelos de maior escala.

Claro, isso não significa que as empresas chinesas de IA não tenham oportunidades.

A história da IA já provou diversas vezes que a competição tecnológica não é determinada exclusivamente por hardware único. Inovações em modelos, cenários de aplicação, capacidade de comercialização e eficiência de engenharia também podem gerar novas rupturas.

Mas, se observado do ponto de vista da infraestrutura, o fato de o GPT-6 Astra utilizar 100.000 GPUs Blackwell revela realmente uma mudança em andamento: o campo de batalha central da competição global de IA está se movendo ainda mais da camada de modelos para a camada de infraestrutura de computação.

Nos próximos anos, o que determinará a competitividade das empresas de IA não será apenas a capacidade de treinar um modelo excelente, mas sim a capacidade de estabelecer uma formação contínua dos próximos modelos.

Para a indústria chinesa de IA, o que realmente precisa ser alcançado não é um único modelo ou um único lançamento, mas toda uma capacidade sistêmica, desde a aquisição de chips, construção de data centers, agendamento de clusters até o ecossistema de software.

O significado de 100 mil unidades do Blackwell não está em criar um número impressionante, mas em lembrar o mercado: a inteligência artificial está entrando na fase industrial, e a competição industrial finalmente se resume à infraestrutura.

Fonte de referência:

1. Official NVIDIA materials on Blackwell, GB200 NVL72, Vera Rubin architecture, and AI infrastructure.
2. Informações sobre palestras públicas e entrevistas à mídia de Huang Renxun.
3. Relatório da Bloomberg sobre a aquisição de capacidade de processamento do Kimi e relacionado ao H200.
4. Informações divulgadas publicamente pela ByteDance sobre infraestrutura de IA e implantação de poder de computação no exterior.
5. Transcrições relacionadas às informações públicas do DeepSeek e à reunião de interação com investidores de Liang Wenheng.
6. Informações públicas da Alibaba Cloud sobre infraestrutura de IA e cooperação em capacidade de computação para modelos de grande porte.