Infraestructura de TI construida sobre un palillo de dientes: el cuello de botella invisible

Autor: Compilation Monk

¿Alguna vez te has preguntado cuántas capas de pila tecnológica ha atravesado el artículo que estás leyendo en este momento?

Sistema operativo móvil, núcleo del navegador, motor JavaScript, WebAssembly, CDN, DNS, servidor en la nube, núcleo Linux, biblioteca de ejecución de C, conjunto de instrucciones de la CPU, oblea de semiconductores... todo se reduce finalmente a un trozo de silicio que está consumiendo electricidad.

Cada capa suena sólida como una roca. Cada capa tiene un whitepaper, certificaciones y el respaldo de grandes empresas.

Pero si las superpones, obtienes una imagen inquietante: una torre de Babel tambaleante, cuya base, que sostiene todo, es un delgado y ridículo pilar rojo.

Its name is: the Von Neumann bottleneck.

Y tú, de pie en la cima de la torre, sostienes el teléfono y crees que todo está normal.

John von Neumann, el padre de la computadora moderna. La arquitectura von Neumann es el diseño subyacente de casi todas las computadoras modernas. La CPU se encarga de los cálculos, la memoria se encarga del almacenamiento, y ambos se comunican mediante un bus que transporta datos de ida y vuelta. Este diseño se ha utilizado desde 1945 hasta hoy, superando las eras de las mainframes, las PC, Internet y los dispositivos móviles, y ahora está respaldando la inteligencia artificial.

Pero tiene dos defectos inherentes: 1) La CPU se vuelve cada vez más rápida, pero la memoria y el bus no siguen el ritmo. La transferencia de datos se convierte en el cuello de botella del sistema completo: la CPU pasa la mayor parte del tiempo no calculando, sino esperando datos. 2) El alto rendimiento de la CPU depende en gran medida de la capacidad de la caché, pero esta tiene limitaciones físicas inherentes que impiden su expansión horizontal como la memoria. Bajo la influencia de los lenguajes de programación modernos, que priorizan la legibilidad humana, los programas cada vez más voluminosos y los datos heterogéneos complejos han superado ampliamente el límite de capacidad de la caché, aumentando aún más la frecuencia y el volumen de transferencia de datos entre memoria y CPU, lo que hace que las computadoras funcionen cada vez más lentamente, se vuelvan más lentas y sean más propensas a colapsar. Este es el "cuello de botella de von Neumann".

Es irónico que este cuello de botella sea el problema más fundamental, más central y más inevitable de toda la industria de TI, y sin embargo, el menos abordado.

¿Por qué? Porque resolverlo es demasiado difícil y no resulta fácil de ganar dinero.

Las grandes empresas prefieren agregar más capas encima: GPUs más rápidas, más memoria gráfica, niveles de caché más complejos, algoritmos de programación más inteligentes. Cada capa se puede incluir en una presentación, cada capa se puede vender, y cada capa evita el poste rojo en lugar de enfrentar y resolver el problema directamente.

Es como si un edificio siguiera añadiendo pisos, mientras las grietas en la base se cubren con papeles pintados cada vez más gruesos.

¿Preguntas si las personas que viven adentro están seguras? Ellos dirán: No te preocupes, acabamos de instalar la cerradura inteligente más reciente y compramos el seguro de desastres más caro.

Mira esta imagen y notarás un fenómeno interesante: cada capa, tomada por separado, parece un bloque cuidadosamente diseñado.

Los sistemas operativos tienen una arquitectura de núcleo rigurosa. La memoria HBM de alto ancho de banda tiene un proceso de apilamiento preciso. Los CPU y GPU tienen un diseño preciso con miles de millones de transistores. Las fábricas de obleas semiconductoras son la corona de la industria humana.

Linux y la Fundación Apache mantienen la infraestructura de código abierto más confiable del mundo. LibcURL es llamada por casi todos los programas que necesitan conexión a red. El sistema DNS permite que Internet global se encuentre entre sí. Los proveedores de nube prometen una disponibilidad del 99.99%.

Cada bloque es cuadrado y uniforme, cada bloque tiene un artículo académico, un estándar y una auditoría.

Pero si las apilas de abajo hacia arriba, la imagen cambia.

Esta es la verdad sobre la infraestructura digital moderna: no es un todo cuidadosamente diseñado, sino un milagro construido con la superposición de innumerables soluciones temporales.

Funciona no porque esté bien diseñado, sino porque suficientes personas hicieron suficientes parches en suficientes noches.

Crees que estás usando un edificio. En realidad, estás de pie sobre una pila de bloques con parches.

Mira el brazo mecánico que se extiende desde el costado en la imagen, etiquetado como "AI inteligencia artificial".

No está sosteniendo la torre, sino actuando como palanca para acelerar el colapso de las estructuras como bloques de construcción.

Esta es la sátira más precisa de la actual fiebre de la IA.

Todos dicen que la IA es una revolución de productividad, la próxima era, la bala de plata que lo salvará todo. Pero desde la perspectiva de la infraestructura, lo primero que hace la IA es empujar un sistema ya inestable hacia un borde aún más peligroso.

¿Por qué? Porque 1) la IA es una bestia de poder de cómputo. El consumo de energía de un solo entrenamiento de modelo grande equivale al consumo anual de electricidad de una pequeña ciudad. La implementación de inferencia requiere una cantidad masiva de GPU, y las GPU aún operan sobre la arquitectura von Neumann: la presión sobre ese poste rojo es mayor que nunca. 2) La búsqueda agresiva de los usuarios de IA ejerce una presión sobre la infraestructura de datos que es más de diez mil veces mayor que la de los usuarios humanos, y los esquemas de bucle que se promueven ahora solo aumentarán geométricamente la frecuencia de las tareas de IA en la recuperación y el cálculo de datos.

Lo más irónico es la salida de la IA.

Se están enviando grandes cantidades de código generado por IA a proyectos de código abierto, con calidad desigual y numerosas vulnerabilidades. Grandes volúmenes de contenido generado por IA inundan internet, saturando los resultados de los motores de búsqueda con spam. Muchas "soluciones" generadas por IA se presentan como productos vendidos a clientes, y cuando surgen problemas, se descubre que la base es una ilusión.

La IA no reparó la columna roja; simplemente añadió otra capa en la cima de la torre y le dijo a todos: Miren, estamos más altos.

Whether it will collapse? That’s next quarter’s issue.

Hay un chiste que lo dice bien: la humanidad tardó 70 años en desarrollar la computación desde "calcular rápido" hasta "poder decir tonterías", y luego llamaron a esto progreso.

A la derecha de la gráfica, un pájaro enojado se estrella contra la torre. La etiqueta al lado dice: "Lo que hacen las grandes empresas".

Esta metáfora es cruel, pero precisa.

Las grandes empresas lanzan periódicamente un nuevo producto, nuevo marco o nueva norma "revolucionaria". Los eventos de lanzamiento son impresionantes, las presentaciones en PowerPoint son magníficas y los KOLs los elogian en coro.

But these products often are not repairing or strengthening the existing industrial structure, but rather destroying it.

Cuando surge un nuevo marco, el ecosistema del marco antiguo muere. Cuando aparece un nuevo estándar, todos los dispositivos compatibles con el estándar antiguo se convierten en "productos obsoletos". Las grandes empresas no son ajenas a que esto tiene un costo. Pero para ellas, el costo de destruir el ecosistema lo asumen los desarrolladores y los usuarios, mientras que el crecimiento y la valoración generados por los nuevos productos les pertenecen a ellas.

A la izquierda de la gráfica, un desarrollador independiente de Rust despega en un cohete, con una etiqueta que dice: "Los desarrolladores independientes de RUST están haciendo sus propias cosas".

Esta es otra ironía.

Los desarrolladores independientes son el grupo más dinámico del ecosistema de TI. Libres de las KPI de las grandes empresas, pueden probar y errar rápidamente y crear aplicaciones de alta calidad que las grandes empresas no pueden desarrollar.

Pero la producción de desarrolladores independientes también tiene otro lado

- Caótico. La misma función tiene diez desarrolladores independientes que crearon diez versiones, cada una diferente, cada una con su propia filosofía de diseño, y cada una mantenida solo hasta que el autor perdió el interés.

- Desorganizado. Sin estándares unificados, sin compromisos de compatibilidad, sin hoja de ruta para actualizaciones. Hoy funciona, pero mañana el autor podría eliminar el repositorio.

- Irresponsable. Muchos proyectos independientes no han sido probados, no tienen documentación ni auditoría de seguridad. El autor piensa "si funciona, está bien", y luego este proyecto se convierte en dependencia de diez mil otros proyectos.

Estas preguntas, vistas individualmente, no parecen grandes, pero acumuladas, se convierten en otro tipo de daño para el mercado. Los usuarios eligen entre innumerables productos incompletos, los desarrolladores caen en errores de innumerables marcos descartados, y el costo de confianza en todo el ecosistema sigue aumentando.

Y aquellos verdaderamente excelentes desarrolladores independientes, como el desarrollador de Rust que despega en cohete en la imagen: ellos están haciendo su propio trabajo, lo hacen muy bien, pero no tienen relación con esta torre tambaleante.

The tower won't become more stable because of them, and they won't stop because of the tower.

Cada uno se ocupa de lo suyo, cada uno se desmorona por su cuenta.

Veamos esta gráfica completa, de principio a fin.

En la base más profunda, hay un gran cuadrado gris que dice "Electricidad (procesamiento, agua, energía... etc.)". Este es el punto de partida de todo: sin electricidad, no hay cálculo. Pero en la narrativa de la industria de TI, la electricidad es la capa más ignorada. Todos hablan de nativo en la nube, de microservicios, de modelos grandes, pero muy pocos se preguntan: ¿de dónde proviene la electricidad que consumen estas cosas? ¿Cuánto cuesta pagarla? ¿Qué impacto tiene en el medio ambiente?

Por encima de la electricidad, hay cuatro pilares: el sistema operativo, la memoria de alto ancho de banda (HBM), la CPU/GPU y las fábricas de obleas semiconductoras. Este es el nivel de hardware, la parte verdaderamente "cuadrada y recta". Cada uno representa el nivel más alto de la industria humana. Pero atención: son cuatro piedras separadas, no una sola base; entre ellas existen grietas.

Más arriba, hay una tabla larga y balanceante etiquetada como "Matriz dinámica para desarrolladores de C". Esta tabla se extiende sobre cuatro cimientos, pero ella misma es inestable. En su centro exacto, un delgado poste rojo sostiene todo el peso superior: el cuello de botella de von Neumann. El peso total del mundo de la TI finalmente recae sobre este poste.

Más arriba, el estilo se vuelve caótico. Un proyecto C99 basado en comportamiento no definido asume funciones clave. Debajo de la JVM, las bases de datos relacionales están tachadas. Un brazo mecánico se extiende desde el costado, etiquetado como "IA inteligencia artificial", empujando la torre.

Subiendo aún más, están el motor V8, left-pad, seguridad web, WebAssembly: estos son la capa web. Al lado, en letras grandes, dice "Auto sabotaje del desarrollador web" y "Lo extraño que está sucediendo en la web".

En la cima, un pequeño muñequito que representa al usuario se encuentra en la punta inestable de la torre, con el texto "Estás aquí". Al ampliar, se ve que el muñequito sostiene un teléfono móvil: él está usando esta torre, y la torre podría derrumbarse en cualquier momento.

A la izquierda de la torre, un desarrollador independiente de Rust se va volando en un cohete a hacer sus propias cosas. A la derecha de la torre, un pájaro enojado (una gran empresa) choca contra la torre. Encima de la torre, una nube flota solitaria, con el texto "servidor en la nube conforme a las especificaciones": no tiene ninguna conexión con la torre, como si fuera solo un concepto.

La imagen completa no contiene una sola palabra innecesaria. Cada etiqueta es una espina que clava en los lugares que la industria de TI más desea evitar.

No está predicando nada. Está describiendo el presente.

Hasta aquí, alguien podría decir: Eres demasiado pesimista, ¿la industria de TI no está funcionando bien?

Sí, está funcionando.

Pero "funcionando" y "estable" son dos cosas diferentes. Que una persona pueda caminar no significa que sus huesos no tengan grietas. Que un puente pueda cruzar vehículos no significa que no esté sobrecargado.

Lo aterrador de la industria de TI es que cada capa está en constante iteración rápida, pero los problemas en la capa más básica nunca se han resuelto realmente. El cuello de botella de von Neumann aún existe, las grandes empresas siguen derribando edificios, la IA sigue generando basura y los desarrolladores independientes siguen trabajando por su cuenta.

Todos están construyendo hacia arriba, nadie quiere echar un vistazo hacia abajo.

Porque al mirar hacia abajo, descubrirás que la base es un palillo. Y los palillos, algún día dejarán de sostener.

Quizás solo hasta ese día, cuando nosotros, de pie en la cima de la torre con el teléfono en mano, hagamos por primera vez esa pregunta: ¿cómo se construyó realmente la base de este edificio?