Amazon、Trainiumチップ上でPyTorchコードを実行するTorchNeuronを発表

Amazonは、PyTorchベースのAIコードを最小限の変更でAmazonのTrainiumチップ上で実行できるオープンソースツール「TorchNeuron」を導入しました。Amazonは、開発者がコードを書き直す必要を減らすことにより、Nvidiaのソフトウェア優位性に挑戦する道を見出した可能性があります。AmazonのTorchNeuronの発表によると、開発者はアプリケーション全体を書き直すのではなく、設定変更だけで既存のPyTorchコードをTrainium上で実行できます。

NvidiaのAIにおける優位性は、チップにとどまらず、開発者がAIワークロードを構築・実行するために依存するソフトウェアエコシステムであるCUDAにも及ぶ。開発者は長年にわたりCUDAに基づいてワークフローを構築してきたため、ハードウェアのパフォーマンスを超える移行コストが生じている。このコストにより、競合チップは魅力的な経済性を備えていても、ワークロードを引きつけるのが難しくなっている。TorchNeuronは、ソフトウェアを異なるコンピューティングプラットフォームに適応させるためにかかる工数と費用を軽減することを目的としている。PyTorchはAIの研究開発全体で広く使用されている。Amazonは、CUDAを即座に置き換える必要なく、代替手段の実験をより低コストで、短時間で行えるようにすることができる。

このローンチは、AmazonがAIトレーニングと推論全体にカスタムシリコンを拡大する取り組みの延長です。Trainiumアクセラレータにより、Amazon Web Services（AWS）はNvidia GPUに完全に依存するのではなく、Amazon自社のハードウェアを使用してコンピューティング容量を提供できます。Amazonのカスタムチップは、Anthropicなど主要なAI顧客を引き付けており、AnthropicはTrainiumをProject Rainierコンピューティングクラスターで使用しています。TorchNeuronにより、切り替えに多大な労力が必要なため従来Nvidiaにとどまっていた開発者たちも、Trainiumを利用しやすくなります。Amazonは、ロボティクス、ボイスAI、ワールドモデルを含む複数分野の30社以上の早期顧客がTorchNeuronを利用していると述べています。より広範な採用により、AWSはコンピューティングコストやAIアプリケーションのデプロイのしやすさにおいて競争力を高められる可能性があります。

この発表は、Nvidiaのリードがすぐには消えることを意味しない。CUDAは成熟したエコシステムであり、Amazonは依然として、Trainiumが厳しいワークロードにおいて競争力のあるパフォーマンス、信頼性、経済性を証明する必要がある。しかし、開発者がプラットフォーム間でより少ない変更でアプリケーションを移動できるようになれば、競争圧力は高まる可能性がある。移行が容易になれば、クラウド利用者はより柔軟性を得られ、AIインフラコストにおけるAmazonの交渉力が強化される可能性がある。

投資家にとっての鍵となる質問は、Amazonがより簡単なソフトウェア移行を継続的なTrainium需要に変換できるかどうかである。Amazonは、代替ハードウェアを構築するだけでなく、顧客がNvidiaのチップを使用し続けるのを妨げているソフトウェアの障壁を低減しようとしている。成功すれば、Nvidiaを競合から守るソフトウェアの優位性が弱まる可能性がある。