Alguns pontos me chamaram a atenção nesse artigo sobre mercados de computação, onde empresas de IA compram acesso às GPUs de terceiros para treinar modelos ou executar seus serviços ↓ → Negócios de GPU ainda ocorrem em grupos de chat Muito desse poder de computação ainda é adquirido por meio de brokers, negócios privados e grupos de chat. Comparar preços entre fornecedores é uma bagunça. Para ser honesto, isso é meio louco, considerando o quão longe essa tecnologia chegou. → Computação poderia ser negociada como eletricidade O artigo argumenta que aluguéis de GPU podem se tornar um mercado de commodities, com referências de preços e contratos para gerenciar custos futuros. Os mercados de eletricidade começaram a passar por uma mudança semelhante na década de 1990, à medida que se abriram à concorrência. → O mesmo chip não significa o mesmo negócio Localização, confiabilidade e termos de aluguel afetam todos o preço. Acesso barato a GPUs que pode ser interrompido é bem diferente de disponibilidade garantida. Um chatbot de IA precisa permanecer disponível para os usuários, enquanto uma empresa que usa IA para rotular imagens durante a noite pode aceitar pausas para pagar menos. → A NVIDIA é basicamente o banco central da computação Seu cronograma de lançamentos influencia a velocidade com que GPUs mais antigas perdem valor, e também se beneficia de manter GPUs existentes em uso, pois a demanda por esse poder de computação dá aos operadores de data centers um motivo para comprar mais chips. → A oportunidade vai além do aluguel de GPUs Empresas também estão desenvolvendo ferramentas de precificação, plataformas de negociação, empréstimos e seguros. A aposta do autor é que empresas que combinem acesso confiável a GPUs com esses serviços financeiros poderão ter vantagem competitiva. A Silicon Data afirma rastrear 95% dos provedores de GPU da neocloud e 100% dos principais hyperscalers. Esses dados de aluguel já estão sendo usados para criar referências diárias de preços para computação. Então acho que isso nos dá uma visão de como os aluguéis de GPU podem evoluir para um mercado financeiro mais amplo.
