Los costos de cómputo de IA probablemente aumentarán ante la creciente demanda y las restricciones en la oferta

Quiero probar un enfoque minimalista: asignarme 2 horas para escribir rápidamente una entrada de blog. Muchas subpreguntas importantes no tengo tiempo para explorarlas a fondo, pero si no lo hago así, muchos temas que me interesan seguirán sin avanzar.

Hoy quiero hablar sobre la situación de la capacidad de cómputo de los laboratorios de IA en los próximos años.

Los ingresos de Anthropic crecen diez veces al año. Según esta tendencia, los ingresos de Anthropic a finales de este año probablemente oscilarán entre 1000 y 1500 mil millones de dólares. Si esta tendencia continúa, para finales del próximo año deberán alcanzar ingresos de 1 billón de dólares. Por supuesto, no hay una razón absoluta que garantice que esta tendencia se mantendrá: en última instancia, depende de la capacidad de la IA. Pero suponiendo que realmente continúe, ¿qué condiciones deben cumplirse en este mundo?

La capacidad de cómputo del laboratorio crece tres veces al año. Para que un laboratorio logre un crecimiento de ingresos de 10 veces con solo un aumento de capacidad de cómputo de tres veces, deben ocurrir simultáneamente al menos algunas de las siguientes tres cosas: uno, aumentar la rentabilidad del laboratorio; dos, subir el precio de la capacidad de cómputo; tres, destinar una proporción mayor de la capacidad de cómputo a la inferencia.

Mi comprensión es que estas tres cosas están ocurriendo básicamente al mismo tiempo: primero, la margen de beneficio de Anthropic aumentó del 40% en 2025 a posiblemente más del 80% en el negocio de inferencia de Fable este año (aunque la margen de beneficio del poder de cómputo marginal podría ser diferente, lo abordaré más adelante); segundo, el precio al contado del poder de cómputo ha aumentado más del 40% desde el mínimo de febrero de este año, y el aumento real en el precio que los laboratorios deben pagar podría ser aún mayor (lo detallaré más adelante); tercero, según los datos de Epoch, OpenAI dedicó aproximadamente una cuarta parte de sus gastos en poder de cómputo a la inferencia en 2024, y ahora esta proporción seguramente está más cerca del 50%, e incluso más.

Los laboratorios realmente no quieren tomar el tercer camino (asignar cada vez más capacidad de cómputo a la inferencia). Hay un chiste que lo expresa muy bien: el propósito de los ingresos por inferencia es convencer a los inversores de que te den más dinero para que compres más capacidad de cómputo y entres modelos más grandes. Si asignas la mayor parte de tu capacidad de cómputo a la inferencia, en cierto sentido estás declarando que el progreso en IA se ha estancado—porque ya no es rentable seguir invirtiendo en entrenamiento, y tu negocio se convierte básicamente en un proveedor de servicios en la nube. Los principales laboratorios no piensan así: ellos creen que los modelos que despliegan hoy parecerán muy obsoletos dentro de un año, y que ahora están haciendo este negocio para acumular casos de uso comerciales que respalden la continuación del entrenamiento de modelos más inteligentes.

Entonces quedan dos caminos: uno, aumentar los márgenes de beneficio de los laboratorios; dos, que la potencia de cómputo se vuelva más cara. Si uno o dos laboratorios líderes están significativamente por delante de sus competidores, el primer camino será más notable. En la competencia de mercado, el margen de beneficio depende de cuánto mejor es tu opción en comparación con la segunda mejor. Para que el primer efecto domine, los márgenes de beneficio deben alcanzar más del 90% para finales del próximo año. Esto me parece bastante absurdo. Pero sí creo que es posible que los ingresos de los laboratorios de IA continúen creciendo a una velocidad asombrosa.

Entonces, para explicar cómo se hará realidad el mundo en el que los ingresos se dispararán hasta 1 billón de dólares a finales del próximo año, queda un último efecto: el aumento masivo en el precio de la capacidad de cómputo. Como mencioné, esto ya ha comenzado. Si observamos el nivel de capacidad de cómputo que realmente necesitan los laboratorios, el aumento de precios será aún más impactante: obviamente no pueden depender de instancias en mercado spot; necesitan garantizar la seguridad de los pesos del modelo y los datos de los usuarios, además de suficiente escala para lograr una buena utilización y flexibilidad. Veamos cuán loco es este mercado: Google y Anthropic alquilan capacidad de cómputo a SpaceX. Se informa que Google gasta 900 millones de dólares mensuales en alquilar 110,000 GPU, una mezcla de GB200 y GB300. Esto equivale a aproximadamente el doble del precio spot de estas GPU. Y el precio spot actual ya es un 40% más alto que en febrero.

Quiero enfatizar una conclusión fundamental: a medida que los modelos de IA se vuelven más potentes, el valor generado por la misma cantidad de capacidad de cómputo también aumenta. Si un ingeniero de software verdaderamente a nivel humano pudiera ejecutarse en un dispositivo de la categoría H100, según los salarios actuales del mercado para ingenieros de software, el alquiler anual de esa H100 debería superar los 250.000 dólares estadounidenses: quince veces el precio al contado actual.

Por supuesto, si de repente aparecieran 10 millones de ingenieros de software, el valor marginal de los ingenieros naturalmente disminuiría, por lo que ese H100 quizás no genere realmente 15 veces los ingresos actuales. Pero en realidad no estoy seguro de que este razonamiento sea válido. Si aplicamos este argumento a personas en lugar de a la IA, esto sería la clásica "falacia de la cantidad de mano de obra". Los economistas consideran en general que la inmigración de alta cualificación no reduce los salarios a largo plazo, ya que la especialización y la innovación aumentan el valor de la mano de obra. Quizás esta vez el choque en la oferta de mano de obra es tan grande y tan rápido que hace que esta regla empírica deje de aplicarse. Pero si confiamos en el juicio económico estándar sobre la mano de obra, entonces el valor marginal de la mano de obra (y el precio marginal de la capacidad de cómputo) debería mantenerse en niveles asombrosamente altos.

¿Qué sucederá en este mundo?

Los modelos líderes cada vez pueden extraer más valor de la potencia de cómputo, lo que hace que la tarea de alcanzarlos sea cada vez más difícil. Si para 2028 la ingeniería de software ya está automatizada y el precio de la potencia de cómputo es 15 veces mayor que hoy, será extremadamente difícil competir con los laboratorios líderes por la potencia de cómputo sin ingresos.

Si pudieras entrenar el modelo más excelente y eficiente, la tasa de beneficio que podrías cobrar sería mucho mayor que hoy. Este es el efecto Alchian-Allen: cuando un costo fijo se aplica simultáneamente a dos bienes de diferente calidad, el de mayor calidad se vuelve relativamente más ventajoso, desplazando la demanda hacia él. Cuando el precio por hora del H100 sube a 20 dólares, usar un modelo más débil y menos eficiente se vuelve extremadamente caro e insensato—porque necesitas quemar más tokens y ejecutar más potencia de cálculo costosa para obtener el mismo resultado. Por lo tanto, quien pueda entrenar un modelo de élite que consuma menos potencia de cálculo podrá cobrar una prima muy alta. Dado que la potencia de cálculo subyacente ya cuesta tanto dinero, ¿por qué no gastar un poco más y usar el modelo más eficiente que funcione con la misma potencia de cálculo?

Muchas de las aplicaciones de IA actualmente populares serán eliminadas por el precio. La IA ahora es relativamente barata, al menos más barata que la mano de obra humana, en parte porque aún no puede realizar muchas de las tareas que los humanos de élite sí pueden hacer. Un día, esto ya no será cierto. En ese momento, producir contenido de baja calidad en videos cortos con GPU será demasiado costoso para ser rentable.

Sin embargo, este tipo de predicciones tiene similitudes con los errores históricos de predicción sobre la escasez. Pienso en la apuesta entre Simon-Ehrlich: Paul Ehrlich apostó que, en la década anterior a 1990, el precio de una canasta de materias primas aumentaría en lugar de disminuir. Esta apuesta es famosa en los debates de economía popular porque se dice que refutó la visión malthusiana de Ehrlich — subestimó el papel de las señales del mercado y la inteligencia humana en la conservación de recursos escasos (aunque algunos análisis señalan que, si la apuesta se hubiera hecho con otra década, Ehrlich habría ganado).

Supongo que la referencia de materias primas no es adecuada para la potencia de cómputo, ya que la elasticidad de la oferta de potencia de cómputo es mucho menor que la de la minería de metales, y su capacidad para absorber choques de demanda masivos o encontrar soluciones alternativas es mucho más débil. El crecimiento anual de 3 veces de la potencia de cómputo se obtiene multiplicando los siguientes factores: 1.4 veces por la ley de Moore, 1.2 veces por la construcción de nuevas fábricas de obleas (limitada hasta 2030 por la oferta de equipos EUV), y 1.8 veces por la competencia de la IA por cuotas de obleas de procesos avanzados previamente asignadas a otros dispositivos (este factor alcanzará un límite alrededor de 2027, cuando la proporción de obleas N3 asignadas a la IA aumente del 60% al 86%). Cualquiera de estos tres factores es difícil de aumentar aún más, y el último alcanzará su techo en uno o dos años debido a la saturación de las cuotas de obleas.

Lo que quiero señalar es que, en algún momento futuro, la potencia de cómputo se volverá nuevamente más barata. Un día, los robots podrán convertir directamente la arena de sílice de las playas y las minas de cobre subterráneas en computadoras, y en ese momento, el precio de la potencia de cómputo debería volver a niveles cercanos al costo de las materias primas y las herramientas. Lo que estoy discutiendo ahora es simplemente esta fase actual: la potencia de cómputo para IA solo crece un 300% anual, una velocidad que simplemente no puede acompanar el efecto de presión al alza en los precios generado por el aumento anual de valor de la IA.

Por cierto, Anthropic tiene un crecimiento anual de sus ingresos de 10 veces, mientras que su capacidad de cómputo solo crece tres veces, lo que indica que el negocio de los modelos presenta una fuerte economía de escala. Lógicamente tiene sentido: entrenar un modelo implica un costo de aprendizaje único que luego se puede distribuir entre todos los usuarios (a diferencia de la mano de obra humana, donde cada instancia debe capacitarse desde cero). No deseo vivir en un mundo donde la inteligencia tenga una economía de escala tan pronunciada (porque temo la concentración de poder). Pero la realidad parece ser así.

Autor: Dwarkesh Patel; Traducción: Deep潮 TechFlow