Quelques éléments m’ont retenu l’attention dans cet article sur les marchés de calcul, où les entreprises d’IA achètent l’accès aux GPU d’autrui pour former des modèles ou exécuter leurs services ↓ → Les transactions GPU se font encore via des groupes de discussion Une grande partie de cette puissance de calcul est toujours achetée via des courtiers, des accords privés et des groupes de discussion. Comparer les prix entre fournisseurs est un désordre. Honnêtement, c’est assez fou compte tenu du progrès accompli par cette technologie. → Le calcul pourrait être échangé comme l’électricité L’article soutient que la location de GPU pourrait devenir un marché de matières premières, avec des indicateurs de prix et des contrats pour gérer les coûts futurs. Les marchés de l’électricité ont commencé à connaître un changement similaire dans les années 1990, à mesure qu’ils s’ouvraient à la concurrence. → Le même processeur ne signifie pas le même accord L’emplacement, la fiabilité et les conditions de location influencent tous le prix. Un accès GPU bon marché qui peut être interrompu est bien différent d’une disponibilité garantie. Un chatbot IA doit rester disponible pour les utilisateurs, tandis qu’une entreprise utilisant l’IA pour étiqueter des images pendant la nuit peut accepter des interruptions pour payer moins cher. → NVIDIA est essentiellement la banque centrale du calcul Son calendrier de lancement influence la vitesse à laquelle les GPU plus anciens perdent de la valeur, et il bénéficie également de la mise à profit des GPU existants, car la demande pour cette puissance de calcul donne aux opérateurs de centres de données une raison d’acheter davantage de puces. → Les opportunités vont au-delà de la location de GPU Des entreprises travaillent également sur des outils de tarification, des plateformes d’échange, du prêt et de l’assurance. L’auteur estime que les entreprises combinant un accès fiable aux GPU à ces services financiers pourraient avoir un avantage compétitif. Silicon Data affirme suivre 95 % des fournisseurs de GPU neocloud et 100 % des grands hyperscalers. Ces données de location sont déjà utilisées pour établir des indicateurs quotidiens de prix pour le calcul. Je pense donc que cela nous donne un aperçu de la manière dont la location de GPU pourrait évoluer vers un marché financier plus vaste.
