O chip Jalapeño da OpenAI supera o NVIDIA Blackwell em métricas-chave

Autor original: Dong Jing

Fonte original: Wall Street Journal

O primeiro chip desenvolvido pela OpenAI, Jalapeño, surge repentinamente, revolucionando o cenário estabelecido da indústria de chips de IA — isso não é apenas um lançamento de produto, mas também um sinal: a IA está redefinindo a forma como os chips são projetados.

De acordo com o artigo do Wall Street Journal, a Bloomberg relatou em 25 de agosto que a OpenAI afirmou que o Jalapeño lidera a NVIDIA GB300 em dois indicadores-chave: quantidade de carga de trabalho de IA processada por unidade de consumo de energia e velocidade de resposta. O chip, desenvolvido em parceria pela OpenAI e Broadcom, foi projetado especificamente para a fase de inferência de IA e poderá ser implementado em uso real ainda este ano. Richard Ho, responsável pelos chips da OpenAI, afirmou que o Jalapeño oferece desempenho robusto com apenas 700 watts de baixo consumo de energia, ajudando a reduzir significativamente os custos elétricos dos data centers.

Segundo a instituição de pesquisa semicondutora SemiAnalysis, este chip levou apenas cerca de 16 meses desde o início do design até a conclusão da fabricação, com o ponto crítico de fabricação com encapsulamento CoWoS concluído em novembro de 2025, ou seja, apenas 9 meses atrás — muito abaixo do ciclo habitual da indústria de 18 a 36 meses.

Pesquisadores da SemiAnalysis visitaram pessoalmente o laboratório da OpenAI e realizaram testes práticos no Jalapeño usando seu próprio conjunto de benchmarks, InferenceX, concluindo diretamente: o chip superou todos os chips da NVIDIA, AMD e Google anteriormente testados por eles no indicador de desempenho por watt (perf/W).

Mais importante ainda, esse desempenho foi alcançado sem que o Jalapeño tivesse ativado otimizações como decodificação especulativa, implantação separada de pré-preenchimento e decodificação, enquanto os outros chips envolvidos na comparação já estavam com suas configurações ideais ativadas.

Não surpreende que até o renomado analista de semicondutores Dylan Patel tenha afirmado diretamente: “Não foi apenas o Blackwell que foi superado, mas também o chip Rubin da NVIDIA!”

A análise considera que esse resultado representa um desafio direto à posição de mercado da NVIDIA e leva o mercado a reavaliar o cenário de competição em chips de IA.

Os resultados do teste da SemiAnalysis mostram que o Jalapeño possui uma vantagem significativa na eficiência de inferência.

No modelo GPT-OSS 120B, o Jalapeño pode gerar aproximadamente 1.459 tokens por segundo, enquanto o NVIDIA GB200 alcança apenas 535; em termos de latência de ponta a ponta, o Jalapeño conclui uma tarefa em apenas 1,65 segundos, enquanto o GB300 leva cerca de 6 segundos, uma diferença de 3,6 vezes. Em cenários de alta interação, quando o GB300 é empurrado até sua velocidade máxima de decodificação (169 tokens por segundo), o throughput do Jalapeño é 104,3 vezes maior.

No indicador central de eficiência energética de data centers, que mede o número de tokens gerados por megawatt por segundo, o Jalapeño atinge cerca de 53 milhões de tokens/MW/s no modelo GPT-OSS, enquanto o GB200 NVL72 alcança apenas cerca de 10 milhões.

SemiAnalysis aponta que esse indicador é essencialmente equivalente ao número de Tokens gerados por joule, determinando diretamente o teto de receita dos data centers — neste momento, em que a capacidade de processamento é limitada pela energia elétrica, essa vantagem é particularmente crucial.

Do ponto de vista dos custos sistêmicos, conforme a SemiAnalysis, ao incluir energia, refrigeração e rede no cálculo, o custo total por hora por chip do Jalapeño é de aproximadamente US$ 1,56, quase igual aos US$ 1,55 do H100, enquanto o Vera Rubin da NVIDIA chega a US$ 3,61.

É importante notar que a SemiAnalysis também levantou várias ressalvas importantes.

Em primeiro lugar, o modelo utilizado no teste não é o mais avançado atualmente; a NVIDIA e a AMD já publicaram resultados baseados no pacote AgentX em modelos de maior escala, como DeepSeek V4 Pro e Kimi K3, enquanto o Jalapeño ainda não concluiu os testes do AgentX — este pacote reflete melhor o desempenho em cenários reais de produção, como múltiplas rodadas e contextos longos.

Em segundo lugar, o comparador mais justo seria a NVIDIA Vera Rubin, que também utiliza HBM4, e não o Blackwell; o desempenho por watt da Vera Rubin é cerca de 5,4 vezes superior ao do GB200 NVL72 e, em comparação com o Jalapeño, ambos têm custo total de propriedade (TCO) por token praticamente iguais.

Em terceiro lugar, o Jalapeño ainda está na fase de protótipos de engenharia, e a produção em massa está prevista para aumentar gradualmente apenas a partir de 2027.

A integração profunda de ferramentas de IA foi uma das principais razões pelas quais o Jalapeño conseguiu concluir o desenvolvimento tão rapidamente. Segundo a SemiAnalysis, a OpenAI utilizou amplamente modelos internos de IA no processo de design de chips, incluindo o GPT-Astra, amplamente acompanhado pelo público externo.

O usuário da plataforma social X, Andrew Curran, citando informações da OpenAI, afirmou que o GPT-Astra esteve profundamente envolvido em todo o desenvolvimento do Jalapeño:

A equipe, utilizando Codex e GPT-Astra, otimizou em dois meses três modelos de código aberto que originalmente não estavam incluídos no plano de produção em massa do Jalapeño para atingir desempenho elevado.

Isso significa que a IA não só está acelerando o próprio design de chips, mas também expandindo rapidamente o intervalo de modelos que os chips podem suportar.

Os dados da SemiAnalysis quantificam ainda mais essa contribuição:

O design assistido por IA reduziu a área da unidade SIMD em 8% e a área do motor de matriz em 10%, enquanto supera a versão inicial em desempenho de tempo e consumo de energia.

A nível de software, a OpenAI usou uma versão interna expandida do Codex para escrever o kernel do Jalapeño, com partes do código do kernel chegando a cerca de 3.000 linhas; nos módulos de atenção e MoE mais exigentes em desempenho, o código gerado pela IA foi 1,5 a 1,8 vezes mais rápido que a implementação de engenheiros humanos de ponta.

A SemiAnalysis avaliou de forma perspicaz: modelos da OpenAI rodando em GPUs da NVIDIA, como o GPT-5.6 Sol, estão sendo usados para projetar um chip que representa uma ameaça real à moita de CUDA — "as próprias GPUs da NVIDIA estão gerando em tempo real seu potencial sucessor".

Amplamente pressuposto externamente que o Jalapeño é um chip profundamente personalizado para os modelos próprios da OpenAI, a SemiAnalysis chegou à conclusão oposta: o Jalapeño é um chip universal voltado para inferência de IA, capaz de executar diversos modelos e cargas de trabalho, incluindo o jogo Doom portado pelo Codex.

A filosofia de design central do Jalapeño, em nível de arquitetura, é "eliminar a latência fixa". Ao contrário das GPUs, que dependem de hierarquias de memória complexas, o Jalapeño vincula diretamente os núcleos de computação aos slices de HBM, sincronizando os núcleos por meio de uma rede coletiva de alta largura de banda dedicada, reduzindo significativamente a latência de acesso à memória.

Além disso, o Jalapeño utiliza um núcleo OoO (execução fora de ordem) com cache L1, em vez dos registradores gerenciados por software comuns em outros aceleradores, permitindo que ele se aproxime mais do pico teórico de hardware em cenários de lotes pequenos e baixa latência.

Em termos de largura de banda de memória, o Jalapeño utiliza HBM4, alcançando 15,4 TB/s de largura de banda de memória por pacote, com 22 de largura de banda HBM por watt, enquanto a NVIDIA Rubin tem 11,1 e o GB300 apenas 5,71.

SemiAnalysis aponta que a velocidade dos pinos HBM4 do Jalapeño é de 10 Gbps, ligeiramente acima dos 9,6 Gbps do Rubin da NVIDIA, com fornecedor de HBM possivelmente sendo a Samsung.

É digno de nota que Jalapeño optou por não implementar a separação de implantação de pré-preenchimento e decodificação (PDD). A SemiAnalysis forneceu uma explicação detalhada sobre isso:

Em ambientes de produção reais, parâmetros como proporção de entrada/saída, concorrência e taxa de acerto de cache variam continuamente; pools fixos levam à redução da utilização global; já pools de recursos homogêneos podem responder flexivelmente às variações de tráfego, alocando dinamicamente entre requisições sensíveis à latência e processamentos em lote de alta taxa de transferência.

SemiAnalysis lançou um julgamento significativo em seu relatório: o fosso protetor da CUDA pode já ter morrido.

A base para isso é a comparação da velocidade de inicialização do software. O fluxo de produção CoWoS da NVIDIA Rubin foi concluído um mês antes do Jalapeño, mas até agora, os únicos dados de referência públicos da Rubin visíveis ao público vêm da amostra de engenharia da CoreWeave; a NVIDIA não permitiu o acesso livre ao laboratório por terceiros, como a OpenAI fez. A SemiAnalysis considera que isso reflete não uma diferença no próprio hardware, mas na maturidade do software.

Construir a pilha de software do zero permitiu à OpenAI se livrar de encargos históricos e tomar decisões de arquitetura mais limpas. A OpenAI utiliza sua própria linguagem de programação de kernel, Gluon (baseada no Triton), e seu motor de inferência interno "Teacup", além de contar com o Codex para otimizar rapidamente os kernels. A SemiAnalysis observou que, em menos de duas semanas, o Jalapeño aumentou seu throughput em mais de 2 vezes em velocidades de interação específicas; em oito dias, a equipe expandiu o paralelismo de tensores de TP8 para TP32, realizando implantação em escala de gabinete inteiro entre racks.

No entanto, a SemiAnalysis também destacou claramente que os testes atuais cobrem apenas a carga de trabalho relativamente simples de 8k1k e ainda não concluíram os testes de longo contexto com múltiplas rodadas do AgentX. Sob cargas de trabalho de agente mais complexas, o desempenho de componentes como roteadores e cache de prefixos se tornará um novo desafio.

A história do Jalapeño ainda não acabou.

Segundo a SemiAnalysis, as amostras utilizadas nos testes públicos atuais são todas da versão A0, enquanto a versão B0 já entrou na fábrica de wafers, com previsão de aumento de cerca de 25% no desempenho por watt em relação à A0 — a capacidade de cálculo MXFP4 de cada die de computação B0 alcançará 13,4 PFLOPs, com TDP mantido em 700W.

A nível de sistema, a OpenAI colaborou com a Celestica para projetar uma solução completa de rack: cada gabinete ASIC contém 128 chips Jalapeño, com um consumo total de energia de aproximadamente 160 kW para o sistema de dois gabinetes, equivalente ao gabinete duplo da NVIDIA GB300.

Em termos de implantação em escala, um único domínio de rede expandido pode conectar até 2.048 XPU Jalapeño, abrangendo 16 racks. Em termos de produção em massa, a SemiAnalysis prevê um aumento gradual a partir de 2027, com o próximo marco sendo uma implantação de 100 MW.

O quadro estratégico maior é que a OpenAI assinou um acordo de cooperação para 10 GW de aceleradores personalizados com a Broadcom, um volume aproximadamente equivalente à potência máxima de dez reatores nucleares.

Artigo da Wall Street Journal relata que Richard Ho, responsável por chips da OpenAI, afirmou que a empresa atingiu níveis de consumo de energia e custo que permitem reduzir efetivamente os custos de infraestrutura, "isto é apenas o primeiro passo". Ele também enfatizou que a NVIDIA continua sendo um parceiro importante, pois a demanda da OpenAI por poder de processamento é extremamente alta e, a curto prazo, não abandonará seus fornecedores atuais.

Analistas apontam que o significado do Jalapeño talvez não esteja em quantos chips da NVIDIA ele pode substituir hoje, mas em provar algo que antes era amplamente questionado: uma empresa de IA, usando ferramentas de IA, criou em tempo recorde um chip verdadeiramente competitivo. Esse ciclo virtuoso já começou a girar.