Autor: Jamin Ball
Traducción: Deep潮 TechFlow
Guía de Shenchao: El centro de datos Colossus 1 de xAI acaba de encontrar un comprador: Anthropic ha reservado toda la capacidad de cómputo por 5.000 millones de dólares anuales. Esta transacción no solo convierte instantáneamente a xAI en un nuevo gigante de la nube, sino que también permite a Anthropic generar ingresos de 15.000 millones de dólares con esta capacidad, beneficiando a ambas partes.
¡Hagamos un cálculo aproximado! (Todos son estimaciones en un papel...)
Supongamos que Colossus 1 tiene 220.000 GPU
Suponga que hay 150.000 unidades H100, 50.000 unidades H200 y 20.000 unidades GB200
Suposición de alquiler:
- H100 a 2.30 dólares por hora
- H200 a 2.60 dólares por hora
- GB200 a 5 dólares por hora
El alquiler mixto de todo el clúster es de aproximadamente 2.60 dólares por hora.
Suponga que todos son acuerdos take-or-pay (paga por capacidad al 100% las 24 horas del día, los 365 días del año)
Esto equivale a ingresos anuales de 5 mil millones de dólares de xAI. ¡Hemos presenciado el nacimiento de un nuevo gigante de la nube!
Y mucho más: en el reciente podcast de Dwarkesh, Dario hizo un cálculo aproximado de la economía por unidad (énfasis especial en que se trata de matemáticas comunes en la industria, no específicas de Anthropic —esto es importante, ya que no reveló ninguna información de Anthropic).
Él mencionó que, tomando como ejemplo un gasto de capacidad de 100 mil millones de dólares (solo eligió un número redondo). Este gasto se distribuirá entre entrenamiento e inferencia. Si la proporción de entrenamiento es demasiado alta, tus ingresos no serán suficientes; si la inferencia es demasiado alta, debilitarás el futuro desarrollo de investigación. Él considera que la industria actualmente tiene una distribución 50/50 en el gasto de capacidad entre entrenamiento e inferencia. Dijo que, como industria, se podrían convertir esos 500 mil millones de dólares en gastos de inferencia en 1500 mil millones de dólares en ingresos (específicamente señaló que este probablemente sea el modelo económico por unidad de la industria dentro de 1-2 años).
Aplica esta lógica a las operaciones de xAI. Según los supuestos anteriores, Anthropic paga 5 mil millones de dólares anuales. Supón que esto se convierte en ingresos anuales de 15 mil millones de dólares (margen bruto del 60-70%).
¡Ganar-ganar!!
Dario dijo exactamente:
Piénsalo así. Una vez más, estos son hechos simplificados. Los números no son precisos. Solo estoy creando un modelo de prueba. Supongamos que la mitad de tu poder de cómputo se utiliza para entrenamiento y la otra mitad para inferencia. La inferencia tiene cierto margen bruto.
@GS_CapSF "Hemos firmado un acuerdo con SpaceX para utilizar toda la capacidad de procesamiento de su centro de datos Colossus 1. Esto nos permite obtener más de 300 megavatios de nueva capacidad en un mes (más de 220.000 GPU NVIDIA)."