Amazon Web Servicesは、AIスタートアップがアプリケーションをAmazonのTrainiumチップに移行するのを支援するために、月曜日にTorchNeuronをリリースしました。このツールは、NvidiaをAIアプリケーションのデフォルトハードウェア選択肢に押し上げてきたソフトウェア上の優位性に挑戦します。Amazonは、TorchNeuronにより、PyTorchで記述されたアプリケーションがコードを書き換えることなく、1行の設定変更だけでTrainium上で実行できると述べています。
PyTorchは、AIモデルの構築、訓練、実行のための無料でオープンソースのツールキットです。Amazonによると、AIアプリケーションの約85％がPyTorchで作られています。Facebookが開発したPyTorchは、2022年よりLinux財団の一部となっています。Linux財団はオープンソースプロジェクトを管理しています。Nvidiaは、Nvidiaハードウェア上でアプリケーションを実行するためのソフトウェアインフラであるCUDAがPyTorchアプリケーションとシームレスに連携するよう、数年にわたり取り組んできました。その結果、Nvidiaのハードウェアは、ほぼデフォルトでPyTorchに深く組み込まれています。
TorchNeuronはPyTorchを基に開発されているため、PyTorchに慣れている開発者はすでにTorchNeuronの使い方を知っています。PyTorchのユーザーは、簡単な設定変更だけでアプリケーションをAMDのGPUやAppleのチップに移行することも可能です。しかし、Amazonは、Trainiumへの移行によりAIスタートアップがAmazonのクラウド全体を利用できるようになると主張しています。AWSは、Coreweave、Nebius、FirmusといったNVIDIAハードウェアに依存する専門的なクラウドプロバイダーと比較して、スタートアップにとってAWSの方が優れた選択肢であると主張しています。
コリン・ブレイスは、アマゾンのカスタムチップを開発するAWSアナプルナラボのテクノロジーソフトウェア副社長です。ブレイスは、AWSがすでに起業家がプロトタイプから本番環境へ移行し、必要に応じて事業を拡大するためのインフラを提供していると述べました。AWSは、Trainiumがモデルのトレーニングと推論の両方を処理すると主張しています。推論とは、完成したモデルがユーザーの質問に答えるなどのタスクを実行することを指します。AWSは、最も安価なトークン単価ではないとしても、同じチップをトレーニングと推論の両方で使用し、クラウドインフラと密接に統合することで、スタートアップのコスト削減につながると主張しています。ブレイスは、Trainiumがトレーニングと推論の単一プラットフォームと価格対性能の観点から、ワークロード全体にわたってコストを改善すると述べました。ブレイスは、DeepgramがネイティブなPyTorchサポートを活用してTrainiumに移行し、本番レベルの精度で1ドルあたり70%多くのオーディオを処理していると述べました。DeepgramはAI音声アプリケーションを提供し、ElevenLabsと競合しています。
Amazonは、同社がPyTorchをNvidiaに自動的に依存しないようにする取り組みを進めていると述べています。Amazonは、この取り組みを支援するために、PyTorchのメインプロジェクトにコードを貢献すると述べています。Amazonの発表によると、同社はPyTorchコミュニティと協力して、フレームワークを特定のチップに結びつけるコードを削除しているところです。Amazonは、この目標がTrainiumユーザーだけでなく、すべての開発者にとってPyTorchの特定のハードウェアへの依存度を低くすることであると述べています。
この取り組みは、Nvidiaと競合するハードウェアおよびクラウドプロバイダーに利益をもたらす。しかし、PyTorchは、AIコードをハードウェア上で実行する際の難しさから開発者を守ることを一部の目的としている。PyTorchがNvidiaへの依存を減らすことで、Amazonが約束するように、より多くの選択肢とより手頃なオプションが得られる可能性がある一方で、より複雑な設定が生じる可能性もある。PyTorchをNvidiaから成功裏に分離することは、他のチップメーカーとの競争だけでは及ばないほど、Nvidiaに大きな影響を与える可能性がある。Braceは、この取り組みを、開発者が真の選択肢を持てないようにしていた制約を取り除くものと評価した。
Amazon、NvidiaのAIソフトウェア市場支配に挑戦するためにTorchNeuronを発表
FLASH AI共有
概要
Amazonは、PyTorchアプリを最小限のコード変更でAWS Trainiumチップ上で実行できる新しいツール「TorchNeuron」をリリースしました。このツールは、PyTorchがNvidiaのCUDAソフトウェアに依存する度合いを低減します。AWSは、開発者が1行の設定でTrainiumに切り替えられると述べています。同社はまた、PyTorchにコードを寄付して、ハードウェア依存性を低くする取り組みを進めます。Trainiumをトレーニングおよび推論に使用するスタートアップは、コストを削減できます。Deepgramは、切り替え後に1ドルあたりのオーディオ処理能力が70%向上したと報告しています。このAI＋暗号通貨ニュースは、AWSがオンチェーンニュースおよびAIインフラへの注力を見せています。
出典:原文を表示
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。
デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。