AMD adquire a Taalas para integrar pesos de modelos de IA em silício para inferência

Artigo escrito por Xiao Bing

Em 6 de agosto, a AMD anunciou a aquisição da empresa de chips de Toronto, Taalas, cujo valor da transação não foi divulgado. Esta startup, fundada em 2023 e que arrecadou um total de US$ 219 milhões, fez algo que parece um pouco louco: queimar diretamente os pesos dos modelos de IA nas camadas metálicas dos chips, criando chips dedicados capazes de executar apenas um único modelo.

A forma como as GPU funcionam é armazenar os parâmetros do modelo na memória de alta largura de banda (HBM) e, durante a inferência, mover repetidamente os dados para dentro e para fora das unidades de cálculo. Esse processo de "movimentação" consome grande quantidade de energia e tempo, sendo chamado pela indústria de "parede de memória". A abordagem da Taalas elimina completamente essa movimentação, fixando os pesos diretamente nos transistores do chip, integrando armazenamento e cálculo em um único sistema.

O custo é que este chip só pode executar um modelo, mas o benefício é uma melhoria de ordem de grandeza na velocidade e eficiência energética.

O chip de verificação técnica Taalas HC1 é baseado no processo de 6 nm da TSMC, com uma área de chip de 815 mm² e 53 bilhões de transistores; o modelo integrado é o Llama 3.1 8B da Meta.

Dados de desempenho do HC1: cerca de 17.000 tokens/segundo por usuário. Para comparação, o Nvidia H200 alcança cerca de 230 tokens/segundo e o H100 cerca de 150 tokens/segundo no mesmo modelo. Uma diferença de velocidade de 73 vezes, com apenas um décimo do consumo de energia.

Conta econômica mais intuitiva: O custo de inferência declarado pela Taalas é de aproximadamente 0,75 centavo de dólar por milhão de tokens (Llama 8B), enquanto soluções GPU variam entre 20 e 49 centavos de dólar. Cada cartão HC1 consome 250 W; um rack padrão com arrefecimento por ar, contendo 10 cartões, requer apenas 12-15 kW, sem necessidade de refrigeração líquida, enquanto racks de GPU frequentemente consomem de 120 a 600 kW.

O analista da Forbes Karl Freund, em sua avaliação em fevereiro, disse: “10 vezes mais rápido que a plataforma de inferência mais rápida (Cerebras Wafer-Scale Engine) e duas ordens de grandeza mais rápido que GPUs.”

Mas há algumas limitações importantes. O HC1 utiliza um formato de dados de 3 bits desenvolvido pela Taalas, combinado com parâmetros de 6 bits, resultando em uma quantização muito agressiva, com perda de qualidade inequívoca em tarefas de raciocínio complexas. O dado de 17.000 tokens/segundo vem de um teste de referência do fabricante com 1K de entrada e 1K de saída, não representando o desempenho real em ambientes de produção. Além disso, o Llama 3.1 8B é um modelo lançado em meados de 2024, e versões quantizadas com 8B de parâmetros conseguem rodar até em um Raspberry Pi 5. O HC1 demonstra o potencial da arquitetura, e não a competitividade de um produto maduro.

Gravar o modelo no chip, a questão mais intuitiva é: e se o modelo for atualizado? O chip fica inútil?

A resposta de Taalas foi: não será descartado. O ciclo de design tradicional de ASIC leva mais de dois anos. A Taalas desenvolveu um processo de design automatizado que requer apenas a modificação de poucas camadas metálicas no topo do chip para compilar um novo modelo em um novo chip, com um ciclo de aproximadamente 8 semanas. A empresa prevê, em seu modelo de custos, três atualizações de chip ao longo de um ciclo de vida de quatro anos.

Esta resposta pode aliviar parte da ansiedade, mas não pode eliminá-la completamente.

A flexibilidade da GPU reside no fato de que o mesmo cartão pode executar o Llama hoje, o Claude amanhã e um novo modelo ainda não lançado depois disso. O chip da Taalas não consegue fazer isso. Se um cliente precisar de vários modelos simultaneamente (o que é extremamente comum em ambientes de produção), será necessário equipar cada modelo com um chip diferente, aumentando a complexidade de gerenciamento de estoque e operação.

HC2 já está em desenvolvimento, com o objetivo de um modelo de aproximadamente 20 bilhões de parâmetros, utilizando ponto flutuante de 4 bits para aumentar a precisão. A Taalas originalmente planejava suportar modelos de ponta até o final de 2026.

A aquisição da AMD trouxe sinergia entre a linha de produtos Instinct GPU e o sistema de rack Helios, permitindo que os clientes usem GPUs para cargas de trabalho variáveis e chips Taalas para inferência de modelo único estável e de alta frequência.

A AMD adquiriu a Taalas, o que, no contexto do setor, é a mais recente aquisição de chips de inferência nos últimos oito meses.

Em dezembro de 2025, a Nvidia adquiriu a Groq por 20 bilhões de dólares americanos, obtendo a arquitetura de inferência de baixa latência baseada em SRAM.

Em maio de 2026, a Cerebras fez IPO com uma capitalização de mercado de aproximadamente US$ 56 bilhões, tornando-se o maior IPO tecnológico desde a Snowflake em 2020.

Em junho, a Etched encerrou mais de dois anos de silêncio, anunciando que seu primeiro chip dedicado a Transformers foi produzido com o processo N4P da TSMC e possui contratos com clientes superiores a US$ 1 bilhão. Relatos indicam que a Intel assinou uma carta de intenção de aquisição com a SambaNova, enquanto a Qualcomm está em contato com a Tenstorrent.

Essas negociações apontam para a mesma conclusão: o raciocínio está se tornando o principal campo de batalha para gastos em poder de computação de IA.

Previsões da indústria indicam que, em 2026, a inferência representará dois terços dos gastos em computação de IA, e até 2030, ASICs dedicados à inferência podem capturar 45% do mercado de inferência. As GPUs da Nvidia ainda dominam o lado de treinamento, mas sua arquitetura geral enfrenta desafios de chips dedicados de várias direções no lado de inferência.

Taalas está na extremidade mais extrema desse espectro: ele abandona até mesmo a generalização de um "modelo de primeira categoria" e desenvolve diretamente um chip dedicado a um "único modelo".

Groq substitui o HBM por SRAM para contornar a parede de memória, Cerebras usa área em nível de wafer para superar brutalmente o limite, Etched otimiza exclusivamente para a arquitetura Transformer, e a aposta da Taalas é ainda mais ousada: ela aposta que os modelos de IA se estabilizarão gradualmente, assim como os protocolos de comunicação acabam convergindo para poucos padrões. Quando os modelos não forem mais substituídos mensalmente, fabricar um chip dedicado para cada um dos poucos modelos mais populares torna-se economicamente viável.

O vice-presidente sênior da AMD, Vamsi Boppana, disse no anúncio que o objetivo da aquisição é fornecer aos clientes "a melhor solução de computação para cada carga de trabalho de IA". Essa frase, traduzida em termos de estratégia competitiva, significa: GPUs para flexibilidade, chips Taalas para eficiência extrema, com os clientes combinando conforme necessário.

A validade deste raciocínio depende de uma suposição central: se o ciclo de atualização dos modelos de IA irá desacelerar.

Se grandes modelos continuarem a receber atualizações arquiteturais a cada alguns meses, gravar pesos em silício é como verter concreto sobre areia movediça: o chip ainda não terá recuperado o investimento quando o modelo já estiver obsoleto. Mas se a capacidade dos modelos tender a convergir e for comum que os modelos líderes sirvam de forma estável por dois anos, chips dedicados no estilo Taalas se tornarão tão naturais quanto os chips de baseband da indústria de comunicações, passando de experimentos frenéticos a escolhas óbvias.

Olhando para os últimos 12 meses, o ritmo de atualização dos modelos apresentou mudanças sutis. O intervalo entre as versões da série Llama, de 3.1 para 3.2 e depois para 4, está se alongando, enquanto as alterações arquiteturais entre o GPT-4, GPT-4o e GPT-5 estão se reduzindo. Muitos novos modelos estão sendo desenvolvidos por meio de distilação, quantização e fine-tuning em arquiteturas existentes, e a iteração dos modelos base está desacelerando.

Se essa tendência continuar, Taalas acertou.