Infraestrutura de TI construída com um palito de dente: o gargalo invisível

Autor: Compilador Monk

Você já pensou em quantas camadas de pilha tecnológica essa artigo que você está lendo agora passou?

Sistema operacional móvel, núcleo do navegador, motor JavaScript, WebAssembly, CDN, DNS, servidor em nuvem, núcleo Linux, biblioteca de execução C, conjunto de instruções da CPU, wafer semicondutor... tudo se resume a um chip de silício consumindo energia.

Cada camada parece inabalável. Cada camada possui um whitepaper, certificações e o apoio de grandes empresas.

Mas quando você as empilha para ver juntas, obtém uma imagem perturbadora — uma torre de Babel vacilante, cuja base, sustentando tudo, é um fino e ridículo pilar vermelho.

Its name is: Von Neumann bottleneck.

E você, em pé no topo da torre, segurando o celular, acha que tudo está normal.

John von Neumann, o pai dos computadores modernos. A arquitetura von Neumann é o design básico de quase todos os computadores modernos. A CPU realiza cálculos, a memória armazena dados, e ambos se comunicam por meio de um barramento que transporta dados entre eles. Esse design, em uso desde 1945, resistiu às eras dos mainframes, PCs, internet e móveis, e agora está sustentando a inteligência artificial.

Mas ele possui duas deficiências inerentes: 1) A CPU está se tornando cada vez mais rápida, enquanto a memória e o barramento não conseguem acompanhar. A transferência de dados tornou-se o limite de todo o sistema — a CPU passa a maior parte do tempo não calculando, mas aguardando dados. 2) O alto desempenho da CPU depende fortemente da capacidade da cache, que possui limitações físicas naturais e não pode ser expandida horizontalmente como a memória. Sob a pressão das linguagens de programação modernas, que enfatizam a legibilidade humana, programas cada vez mais pesados e dados heterogêneos complexos já ultrapassaram o limite de capacidade da cache, aumentando ainda mais a frequência e o volume de transferência de dados entre memória e CPU, fazendo com que os computadores fiquem cada vez mais lentos, travem com mais facilidade e sejam mais propensos a travar. Esse é o "pescoço de von Neumann".

Ironicamente, esse gargalo é o problema mais básico, mais central e mais inevitável de toda a indústria de TI, mas também o mais ignorado.

Por quê? Porque resolver isso é muito difícil e não é fácil ganhar dinheiro.

As grandes empresas preferem adicionar mais camadas sobre isso—GPUs mais rápidas, mais memória de vídeo, camadas de cache mais complexas, algoritmos de agendamento mais inteligentes. Cada camada pode ser incluída em um PPT, cada camada pode gerar receita, e cada camada evita aquele pilar vermelho, em vez de enfrentar diretamente o problema e resolvê-lo.

É como se um prédio continuasse sendo ampliado para cima, enquanto as rachaduras na fundação são cobertas com papel de parede cada vez mais espesso.

Você pergunta se as pessoas que moram lá estão seguras? Elas dirão: Fique tranquilo, acabamos de instalar a mais recente fechadura inteligente e compramos o seguro de desastre mais caro.

Olhando para este gráfico, você notará um fenômeno interessante: cada camada, isoladamente, parece um bloco cuidadosamente projetado.

Os sistemas operacionais possuem uma arquitetura de kernel rigorosa. A memória de alta largura de banda HBM possui um processo de empilhamento preciso. CPUs e GPUs possuem um design preciso com bilhões de transistores. As fábricas de wafers semicondutores são a coroa da indústria humana.

A Linux e a Apache Foundation mantêm a infraestrutura de código aberto mais confiável do mundo. A LibcURL é chamada por quase todos os programas que precisam de rede. O sistema DNS permite que a internet global se encontre. Provedores de nuvem prometem 99,99% de disponibilidade.

Cada bloco é perfeitamente quadrado, cada bloco possui artigo, padrão e auditoria.

Mas empilhá-las de baixo para cima muda a imagem.

Essa é a verdade sobre a infraestrutura digital moderna: não é um todo cuidadosamente projetado, mas um milagre formado por inúmeras soluções temporárias empilhadas.

Funciona não por causa de um bom design, mas porque muitas pessoas fizeram muitos patches em muitas noites.

Você acha que está usando um prédio. Na verdade, você está em cima de uma pilha de blocos de remendos.

Veja o braço mecânico que se estende lateralmente na imagem, rotulado como "IA Inteligência Artificial".

Não está sustentando a torre, mas sim atuando como alavanca para acelerar o colapso das estruturas como blocos de construção.

Esta é a sátira mais precisa do atual hype de IA.

Todos estão dizendo que a IA é uma revolução de produtividade, a próxima era, a bala de prata que salvará tudo. Mas do ponto de vista da infraestrutura, a primeira coisa que a IA faz é empurrar o sistema já instável para uma borda ainda mais perigosa.

Por quê? Porque 1) a IA é uma besta de poder computacional. O consumo de energia de um único treinamento de modelo grande equivale ao consumo anual de energia de uma pequena cidade. A implantação de inferência exige quantidades massivas de GPUs, e as GPUs ainda operam sobre a arquitetura von Neumann — a pressão sobre aquele poste vermelho é maior do que nunca. 2) A busca agressiva por usuários de IA exerce uma pressão sobre a infraestrutura de dados milhares de vezes maior do que a de usuários humanos, e as soluções de loop promovidas atualmente apenas aumentarão geometricamente a frequência das tarefas de IA em buscas, consultas e cálculos de dados.

Mais ironicamente, a saída da IA.

Grande quantidade de código gerado por IA é submetida a projetos de código aberto, com qualidade variável e inúmeros vazios de segurança. Grande quantidade de conteúdo gerado por IA enche a internet, inundando os resultados dos mecanismos de busca com spam. Grande quantidade de "soluções" geradas por IA são embaladas como produtos e vendidas aos clientes, e só se descobre que a base é uma ilusão quando ocorrem problemas.

A IA não consertou aquele pilar vermelho; ela apenas adicionou mais um andar no topo da torre e disse a todos: veja, estamos mais altos.

Quanto à possibilidade de colapso, isso será uma questão do próximo trimestre.

Há uma piada que diz bem: a humanidade levou 70 anos para desenvolver o computador de "calcular rápido" para "saber falar besteira", e chamou isso de progresso.

Do lado direito do gráfico, um passarinho furioso está se chocando contra a torre. A legenda ao lado diz: "O que as grandes empresas estão fazendo."

Essa metáfora é mordaz, mas precisa.

Grandes empresas lançam periodicamente um novo produto, nova estrutura ou novo padrão "revolucionário". Os eventos de lançamento são grandiosos, os slides são incríveis e os KOLs elogiam em uníssono.

Mas esses produtos muitas vezes não estão reparando ou fortalecendo a estrutura industrial existente, mas sim destruindo-a.

Quando surge um novo framework, o ecossistema do framework antigo morre. Quando surge um novo padrão, todos os dispositivos compatíveis com o padrão antigo tornam-se "produtos obsoletos". As grandes empresas sabem que isso tem um custo. Mas, para elas, o custo da destruição do ecossistema é suportado pelos desenvolvedores e usuários, enquanto o crescimento e a valorização trazidos pelo novo produto são delas.

Do lado esquerdo do gráfico, um desenvolvedor independente de Rust voa em um foguete, com a legenda: "Desenvolvedores independentes de RUST estão fazendo suas próprias coisas".

Essa é outra ironia.

Desenvolvedores independentes são o grupo mais dinâmico do ecossistema de TI. Livres das metas de desempenho das grandes empresas, eles podem testar e errar rapidamente, criando aplicativos de alta qualidade que as grandes empresas não conseguem desenvolver.

Mas a produção de desenvolvedores independentes também tem outro lado

- Desorganizado. A mesma funcionalidade foi desenvolvida por dez desenvolvedores independentes, cada um criando uma versão diferente, cada uma com sua própria filosofia de design, e cada uma mantida apenas até o autor perder o interesse.

- Desorganizado. Sem padrões unificados, sem compromisso de compatibilidade, sem rota de atualização. Hoje funciona, amanhã o autor pode excluir o repositório.

- Irrelevante. Muitos projetos independentes não foram testados, não possuem documentação nem auditoria de segurança. O autor acha que "se funcionar, já serve", e esse projeto se torna dependência de dez mil outros projetos.

Essas questões, vistas individualmente, não parecem grandes, mas, quando acumuladas, tornam-se outra forma de destruição para o mercado. Os usuários escolhem entre inúmeros produtos incompletos, enquanto os desenvolvedores caem em armadilhas em inúmeros frameworks abandonados, e o custo de confiança em todo o ecossistema continua aumentando.

E aqueles verdadeiramente excelentes desenvolvedores independentes, como o desenvolvedor Rust que voa em um foguete na imagem — eles estão fazendo o próprio trabalho, muito bem, mas não têm relação com essa torre instável.

The tower won't become more stable because of them, and they won't stop because of the tower.

Cada um está ocupado com o seu próprio negócio, cada um está colapsando no seu próprio ritmo.

Vamos ver este gráfico por completo, do início ao fim.

Na base mais inferior, há um grande quadrado cinza com o texto "Energia Elétrica (poder de computação, água, energia... etc.)". Este é o ponto de partida de tudo — sem eletricidade, não há cálculo. Mas na narrativa da indústria de TI, a energia elétrica é a camada mais negligenciada. As pessoas discutem cloud-native, microserviços e grandes modelos, mas raramente se perguntam: de onde vem a eletricidade que essas coisas consomem? Quanto custa pagar por ela? Quais são os impactos ambientais?

Acima da eletricidade, há quatro pilares: sistema operacional, memória de alta largura de banda (HBM), CPU/GPU e fábricas de wafers semicondutores. Este é o nível de hardware, a parte verdadeiramente "retangular". Cada um representa o auge da indústria humana. Mas note: são quatro pedras separadas, não uma única base — as conexões entre elas próprias possuem fendas.

Mais acima, há uma prancha oscilante marcada como "Array dinâmico para desenvolvedores C". Essa prancha se estende sobre quatro pilares fundamentais, mas já é instável por si só. No seu centro exato, um fino pilar vermelho suporta todo o peso acima dele — o gargalo de von Neumann. Todo o peso do mundo da TI recai finalmente sobre esse pilar.

Mais acima, o estilo começa a sair do controle. Um projeto C99 baseado em comportamento indefinido assume funções críticas. Sob a JVM, bancos de dados relacionais estão marcados com um X. Um braço mecânico se estende do lado, rotulado como "IA Inteligência Artificial", empurrando a torre.

Continuando para cima, estão o mecanismo V8, left-pad, segurança da web e WebAssembly — esses são os componentes da camada Web. Ao lado, letras grandes dizem "Auto-sabotagem do desenvolvedor web" e "Coisas estranhas acontecendo na Web".

No topo, um pequeno bonequinho representando o usuário está em pé na ponta instável da torre, com a legenda "Você está aqui". Ao ampliar, vê-se que o bonequinho está segurando um celular — ele está usando essa torre, que pode desabar a qualquer momento.

À esquerda da torre, um desenvolvedor independente em Rust decolou em um foguete para seguir seus próprios projetos. À direita da torre, um passarinho irritado (grande empresa) está colidindo contra a estrutura da torre. Acima da torre, uma nuvem solitária flutua, marcada com "servidor em nuvem conforme especificado" — ela não tem nenhuma conexão com a torre, parecendo ser apenas um conceito.

O gráfico inteiro não tem uma única palavra desnecessária. Cada rótulo é um espinho, cravado nos lugares que a indústria de TI mais não quer ser tocada.

Não está prevendo nada. Está descrevendo o presente.

Até aqui, alguém pode dizer: você está muito pessimista, a indústria de TI não está funcionando bem?

Sim, está funcionando.

Mas "estar em funcionamento" e "estar sólido" são duas coisas diferentes. Alguém conseguir andar não significa que seus ossos não tenham rachaduras. Uma ponte conseguir suportar veículos não significa que sua carga máxima não tenha sido excedida.

O aspecto aterrador da indústria de TI é que cada camada está em constante iteração rápida, mas os problemas na camada mais básica nunca foram realmente resolvidos. O gargalo de von Neumann ainda existe, as grandes empresas ainda estão derrubando prédios, a IA ainda gera lixo e os desenvolvedores independentes ainda atuam isoladamente.

Todos estão construindo para cima, ninguém quer dar uma olhada para baixo.

Ao olhar para baixo, perceberá que a base é um palito de dente. E um palito de dente, um dia acabará não suportando.

Talvez só naquele dia, quando estivermos no topo da torre segurando nossos celulares, possamos fazer pela primeira vez aquela pergunta: como exatamente foi construída a fundação deste prédio?