Uma é que o processamento é (pelo menos por enquanto) longe de ser commodity (ou suficientemente fungível) para ser negociado como uma mercadoria. Sim. A maioria do processamento/FLOPs será para inferência, mas a inferência é uma carga de trabalho limitada por memória (a quantidade de largura de banda de memória que você obtém importa muito mais). Dependendo do provedor (Neocloud, hiperscaler etc.), cluster e tipo de GPUs, o goodput pode variar muito. Processamento não é como óleo.