Algunas cosas me llamaron la atención en este artículo sobre los mercados de cómputo, donde las empresas de IA compran acceso a las GPU de otros para entrenar modelos o ejecutar sus servicios ↓ → Los acuerdos de GPU aún se realizan en grupos de chat Gran parte de esa capacidad de cómputo aún se adquiere a través de brókers, acuerdos privados y grupos de chat. Comparar precios entre proveedores es un desastre. Honestamente, es algo bastante loco considerando lo lejos que ha llegado esta tecnología. → El cómputo podría negociarse como la electricidad El artículo sostiene que el alquiler de GPU podría convertirse en un mercado de commodities, con referencias de precios y contratos para gestionar costos futuros. Los mercados de electricidad comenzaron un cambio similar en los años 90 al abrirse a la competencia. → El mismo chip no significa el mismo acuerdo La ubicación, la confiabilidad y los términos de alquiler afectan todos el precio. El acceso barato a GPU que puede interrumpirse es muy diferente a la disponibilidad garantizada. Un chatbot de IA necesita mantenerse disponible para los usuarios, mientras que una empresa que usa IA para etiquetar imágenes durante la noche podría aceptar pausas para pagar menos. → NVIDIA es básicamente el banco central del cómputo Su calendario de lanzamientos influye en qué tan rápido pierden valor las GPU más antiguas, y también se beneficia de mantener ocupadas las GPU existentes, ya que la demanda de esa capacidad de cómputo da a los operadores de centros de datos una razón para comprar más chips. → La oportunidad va más allá del alquiler de GPU Las empresas también están desarrollando herramientas de fijación de precios, plataformas de intercambio, préstamos y seguros. La apuesta del autor es que las empresas que combinen acceso confiable a GPU con esos servicios financieros podrían tener una ventaja. Silicon Data dice que rastrea el 95 % de los proveedores de GPU de neocloud y el 100 % de los principales hyperscalers. Esos datos de alquiler ya se utilizan para crear referencias diarias de precios para el cómputo. Entonces creo que esto nos da una visión de cómo el alquiler de GPU podría crecer hasta convertirse en un mercado financiero más amplio.
