私はコンピューティングが商品ではないと思います。 ガソリンや軽油の熱量は固定されています。 一方、1ワットあたり生成されるトークンは、ネットワーク環境、PUE、チップの種類、推論フレームワークなど、多くの要因に依存します。 同じハードウェアで特定のモデルを実行しても、ベンダーによって1ワットあたりのトークン数は大きく異なります(DeepSeekのインフラ効率)。 マイクロソフトは、新しいモデルがBlackwellやHopperではるかに効率的に動作するため、A100から新しいハードウェアへワークロードを移行する可能性があります。

