Un investigador que escribe bajo el seudónimo Zeitgeist dijo que la demanda de memoria para inteligencia artificial supera en varios órdenes de magnitud lo que el mundo actualmente es capaz de producir. En su opinión, las acciones de los fabricantes de memoria podrían aumentar diez veces desde los niveles actuales si se valoraran no por máximos históricos, sino por la necesidad real de cómputo.
Zeitgeist dio un ejemplo llamativo: una inversión de $50,000 en acciones de Micron en septiembre del año pasado valdría hoy alrededor de $489,000. Según él, algunos inversores temen haberse perdido ya el movimiento, mientras que otros temen convertirse en “la liquidez que los actores principales utilizan para salir de sus posiciones.” El analista sugiere ver la oportunidad de manera diferente, a través de la aritmética de la demanda de memoria.
Por qué la memoria se ha convertido en el cuello de botella
Cada acelerador está equipado con una cantidad fija de memoria de alta velocidad, conocida como HBM, que no se puede ampliar. Según el analista, un chip H100 estándar tiene solo 80 GB, las generaciones más recientes ofrecen hasta 192 GB, y el futuro B300 tendrá 288 GB. Ese límite determina cuántas solicitudes puede manejar un solo acelerador.
La carga principal no proviene de los pesos del modelo, sino de la llamada caché KV: la memoria de sesión que crece con cada palabra generada. Según los cálculos de Zeitgeist, una sesión con un contexto de 128,000 tokens requiere aproximadamente 20 GB de memoria. Solo cuatro sesiones así agotarían por completo los recursos de una sola H100.
Uso de memoria por sesión según el tamaño de la ventana de contexto y la cantidad de sesiones por acelerador H100. Fuente: Zeitgeist
Para modelos avanzados como Claude Opus 4.8 o GPT-5.5, el requisito es aún mayor: de 40 GB a 100 GB para una sola solicitud larga. Según el analista, por eso cada gigabyte adicional de memoria vale su peso en oro, mientras que fabricantes como Micron y SK Hynix no pueden aumentar la producción lo suficientemente rápido.
El efecto del agente de IA y la brecha de demanda
Según Zeitgeist, el cambio clave es la transición de chatbots simples a agentes de IA. Mientras que una pregunta normal impone casi ninguna carga en la memoria, un agente que llama independientemente a herramientas y acumula contexto puede alcanzar fácilmente 100,000 tokens o más. Un solo conocedor que ejecute diez de estos agentes en paralelo requeriría alrededor de 152 GB de memoria.
Uso máximo de memoria por trabajador del conocimiento durante chats paralelos y sesiones agentes. Fuente: Zeitgeist
El analista señaló que hay alrededor de 250 millones de trabajadores del conocimiento en todo el mundo. Si ese número se multiplica por la cantidad de sesiones agentes simultáneas, la demanda de memoria no solo crece, sino que “explota”. Según su estimación, con 100 sesiones agentes por persona por día, el mundo necesitaría aproximadamente 60 veces más memoria de la que se producirá en 2026.
Zeitgeist reconoció que los algoritmos reducirán el uso de memoria con el tiempo, con nuevos "métodos de atención" capaces de reducir la carga de cuatro a ocho veces. Pero en su opinión, la demanda está creciendo mucho más rápido: los agentes están reemplazando chats simples, las ventanas de contexto se están expandiendo de 128.000 a 10 millones de tokens, y el uso de IA por cada trabajador está pasando de cero hacia cientos de sesiones.
Según el analista, en un mundo donde los modelos de lenguaje están "tejidos en cada aspecto de la vida cotidiana", la memoria se convierte en un recurso crítico. Bajo su pronóstico, las empresas que la producen generarán ingresos sin precedentes.
SK Hynix supera a Samsung a medida que aumenta la demanda de memoria para IA
La magnitud del auge de la memoria de IA ya está reconfigurando el mercado de chips. El fabricante coreano de memoria SK Hynix ha superado a Samsung como la empresa cotizada más valiosa del país, impulsada por su sólida posición en chips de memoria de ancho de banda alto utilizados para cargas de trabajo de inteligencia artificial.
Para Zeitgeist, este cambio respalda la tesis general de que los productores de memoria se están convirtiendo en algunos de los mayores beneficiarios de la carrera de infraestructura de IA. A medida que la demanda de HBM crece más rápido que la oferta, las empresas capaces de producir chips de memoria avanzados podrían ver aumentar sus ingresos y valoraciones de forma significativa.