Os custos de computação de IA podem aumentar 15 vezes à medida que a demanda supera o crescimento da oferta

Autor: Dwarkesh Patel

Compilado por Deep潮 TechFlow

Deep潮导读: Quando a capacidade dos modelos de IA alcançar a de engenheiros de software de ponta, o preço justo para alugar uma H100 ultrapassará 250 mil dólares por ano — 15 vezes o preço spot atual. Não é uma previsão distante, mas uma tendência real impulsionada pela tensão estrutural entre o crescimento de receita da Anthropic em 10 vezes e o crescimento de capacidade de processamento em 3 vezes. Para investidores, quem conseguir primeiro acesso à capacidade de processamento e treinar os modelos mais eficientes determinará o próximo cenário de competição.

Quero tentar uma abordagem minimalista: definir 2 horas para escrever rapidamente um post. Muitas subquestões importantes não terei tempo para explorar a fundo, mas se não fizer isso, muitos dos tópicos que me interessam continuarão parados, sem progresso.

Hoje quero discutir a situação da capacidade de processamento dos laboratórios de IA nos próximos anos.

A receita da Anthropic cresce dez vezes por ano. Nesta tendência, a receita da Anthropic até o final deste ano provavelmente ficará entre 100 bilhões e 150 bilhões de dólares. Se essa tendência persistir, eles precisarão atingir 1 trilhão de dólares em receita até o final do próximo ano. Claro, não há razão absoluta para acreditar que a tendência continuará — isso, em última análise, depende da capacidade da IA. Mas, supondo que ela realmente persista, quais condições devem ser verdadeiras nesse mundo?

A capacidade de processamento do laboratório cresce três vezes por ano. Para um laboratório alcançar um crescimento de receita de 10 vezes enquanto a capacidade de processamento aumenta apenas 3 vezes, pelo menos duas das seguintes três condições devem ocorrer simultaneamente: primeiro, o margem de lucro do laboratório aumenta; segundo, o preço da capacidade de processamento sobe; terceiro, o laboratório destina uma proporção maior de sua capacidade de processamento para inferência.

Minha compreensão é que essas três coisas estão basicamente acontecendo: primeiro, a margem de lucro da Anthropic aumentou de 40% em 2025 para possivelmente mais de 80% no negócio de inferência do Fable este ano (embora a margem de lucro da capacidade marginal possa ser diferente, abordarei isso posteriormente); segundo, o preço à vista da capacidade de computação aumentou mais de 40% desde o pico de fevereiro deste ano, e o aumento real no preço pago pelos laboratórios pode ser ainda maior (detalharei isso depois); terceiro, segundo os dados da Epoch, cerca de um quarto dos gastos da OpenAI com capacidade de computação em 2024 foram destinados à inferência, e agora essa proporção certamente está mais próxima de 50%, ou até mais.

Os laboratórios na verdade não querem seguir o terceiro caminho (destinar cada vez mais capacidade de processamento à inferência). Existe uma piada que acerta em cheio: o significado da receita com inferência é convencer investidores a lhe dar mais dinheiro para que você compre mais capacidade de processamento e treine modelos maiores. Se você dedicar a maioria da sua capacidade de processamento à inferência, está, de certa forma, declarando que o avanço da IA está estagnado — porque continuar investindo em treinamento já não é mais viável, e seu negócio se torna basicamente um provedor de nuvem. Os principais laboratórios não veem as coisas assim — eles acreditam que os modelos que estão implantando agora parecerão muito obsoletos daqui a um ano, e que atualmente estão nesse negócio para acumular casos de uso comerciais que sustentem o treinamento contínuo de modelos mais inteligentes.

Então restam dois caminhos: um, aumentar a margem de lucro dos laboratórios; dois, tornar a capacidade de processamento mais cara. Se um ou dois laboratórios líderes estiverem muito à frente da concorrência, o primeiro caminho será mais significativo. No mercado competitivo, a margem de lucro depende de quanto você é melhor que a segunda melhor opção. Para que o primeiro efeito domine, a margem de lucro precisa atingir mais de 90% até o final do próximo ano. Isso me parece absurdo. Mas realmente acho possível que a receita dos laboratórios de IA continue crescendo a uma velocidade impressionante.

Então, explicar como o mundo se torna real onde a receita cresce loucamente para 1 trilhão de dólares até o final do próximo ano, resta um último efeito: o preço da capacidade de processamento disparou. Como disse, isso já começou a acontecer. Se olharmos para o tipo de capacidade que os laboratórios realmente precisam, o aumento de preço será ainda mais impressionante — eles claramente não podem depender de instâncias spot; precisam garantir a segurança dos pesos do modelo e dos dados dos usuários, além de ter escala suficiente para obter boa utilização e flexibilidade. Veja o quão louco é esse mercado: o preço que o Google e a Anthropic pagam para alugar capacidade da SpaceX. Relatou-se que o Google gasta 900 milhões de dólares por mês para alugar 110 mil GPUs, um mix de GB200 e GB300. Isso equivale a aproximadamente o dobro do preço spot dessas GPUs. E o preço spot atual já é 40% maior do que em fevereiro.

Gostaria de enfatizar uma conclusão central: à medida que os modelos de IA se tornam cada vez mais poderosos, o valor gerado pela mesma quantidade de poder de computação também aumenta. Se um engenheiro de software verdadeiramente capaz, com nível humano, pudesse operar em um dispositivo da classe H100, com base nos salários de mercado atuais para engenheiros de software, o aluguel anual desse H100 deveria exceder 250 mil dólares — 15 vezes o preço à vista atual.

Claro, se subitamente surgirem 10 milhões de engenheiros de software, o valor marginal dos engenheiros naturalmente diminuirá, portanto, aquele H100 talvez não gere realmente 15 vezes a receita atual. Mas na verdade não tenho certeza se esse raciocínio é válido. Se aplicarmos esse argumento a seres humanos em vez de IA, isso seria o clássico "erro da quantidade de mão de obra". Economistas geralmente concordam que imigrantes altamente qualificados, a longo prazo, não reduzem os salários, pois a especialização e a inovação aumentam o valor da mão de obra. Talvez desta vez o choque na oferta de mão de obra seja tão grande e rápido que faça essa regra empírica falhar. Mas se acreditarmos no julgamento da economia padrão sobre a mão de obra, então o valor marginal da mão de obra (e o preço marginal da capacidade de processamento) deveria permanecer em níveis surpreendentemente altos.

O que vai acontecer neste mundo?

Os modelos líderes estão cada vez mais conseguindo extrair valor da capacidade de processamento, tornando mais difícil a追赶. Se, até 2028, a engenharia de software já estiver automatizada e o preço da capacidade de processamento for 15 vezes maior do que hoje, será extremamente difícil competir com os laboratórios líderes por capacidade de processamento sem nenhuma receita.

Se você conseguir treinar o modelo mais eficaz e mais eficiente, a margem de lucro que poderá cobrar será muito maior do que hoje. Este é o efeito Alchian-Allen: quando um custo fixo é adicionado a dois bens de qualidade diferente, o de maior qualidade torna-se relativamente mais vantajoso, e a demanda se desloca para ele. Quando o preço por hora do H100 subir para 20 dólares, usar um modelo mais fraco e menos eficiente torna-se extremamente caro e absurdo — pois você precisará consumir mais tokens e executar mais capacidade de cálculo cara para obter o mesmo resultado. Portanto, quem conseguir treinar um modelo de topo mais econômico em termos de cálculo poderá cobrar uma forte prima. Já que a infraestrutura de cálculo já custa tanto dinheiro, por que não gastar um pouco mais e usar o modelo mais eficiente que opera com a mesma capacidade de cálculo?

Muitas das aplicações de IA atualmente populares serão eliminadas pelo preço. A IA agora é relativamente barata, pelo menos mais barata do que a mão de obra humana, em parte porque ainda não consegue realizar muitas das coisas que os melhores humanos conseguem. Um dia isso não será mais verdade. Nesse momento, criar conteúdo de baixa qualidade em vídeos curtos com GPU será tão caro que não valerá a pena.

No entanto, essas previsões são semelhantes às previsões erradas históricas sobre escassez. Penso na aposta de Simon-Ehrlich: Paul Ehrlich apostou que, na década anterior a 1990, o preço de uma cesta de commodities aumentaria em vez de cair. Essa aposta é bastante famosa em discussões de economia popular, pois supostamente refutou a visão de mundo malthusiana de Ehrlich — ele subestimou o papel dos sinais de mercado e da inteligência humana na economia de recursos escassos (embora algumas análises indiquem que, se a aposta fosse feita em outra década, Ehrlich venceria).

Suponho que o referencial de commodities não seja adequado para a capacidade de processamento, pois a elasticidade da oferta de capacidade de processamento é muito menor do que a da mineração de metais e sua capacidade de absorver choques de demanda em larga escala ou encontrar alternativas é muito mais fraca. O crescimento anual de 3 vezes da capacidade de processamento é obtido pela multiplicação de três fatores: 1,4 vezes proveniente da Lei de Moore, 1,2 vezes proveniente da construção de novas fábricas de wafers (limitada até 2030 pela oferta de equipamentos EUV) e 1,8 vezes proveniente da AI deslocando quotas de wafers de processo avançado de outros dispositivos (este fator atingirá um limite por volta de 2027, quando a proporção de wafers N3 dedicados à AI aumentar de 60% para 86%). Nenhum desses três fatores pode ser facilmente aumentado, e o último atingirá seu pico em um ou dois anos com a saturação das quotas de wafers.

Gostaria de salientar que, em algum momento no futuro, a capacidade de processamento novamente se tornará mais barata. Um dia, robôs poderão transformar diretamente areia de sílica nas praias e minérios de cobre subterrâneos em computadores, e nesse momento, o preço da capacidade de processamento provavelmente retornará a níveis próximos aos custos das matérias-primas e das ferramentas. O que estou discutindo agora é apenas esta fase atual — a capacidade de IA está crescendo apenas três vezes por ano, uma taxa que simplesmente não acompanha o efeito de elevação de preço trazido pelo aumento anual de valor da IA.

Por falar nisso, a receita da Anthropic cresce 10 vezes por ano, enquanto a capacidade de processamento cresce apenas 3 vezes, o que indica que o negócio de modelos apresenta fortes economias de escala. Logicamente, isso faz sentido — ao treinar um modelo, você paga um custo de aprendizado único, que pode ser distribuído entre todos os usuários (ao contrário da força de trabalho humana, em que cada instância precisa ser treinada do zero). Não quero viver em um mundo onde a inteligência apresenta tais economias de escala intensas (porque temo a concentração de poder). Mas a realidade parece ser essa.