Amazon 推出 TorchNeuron，以在 Trainium 芯片上運行 PyTorch 代碼

Amazon 推出了 TorchNeuron，這是一個開源工具，旨在讓基於 PyTorch 的 AI 代碼在 Amazon 的 Trainium 芯片上以最少的修改運行。Amazon 可能已找到一種方法，透過減少開發者重寫代碼的需求來挑戰 Nvidia 的軟體優勢。Amazon 的 TorchNeuron 宣布指出，開發者只需進行配置更改，即可在 Trainium 上運行現有的 PyTorch 代碼，而無需重寫整個應用程式。

Nvidia 的 AI 優勢不僅限於晶片，還延伸至 CUDA——開發者用來構建和運行 AI 工作負載的軟體生態。開發者已花費多年時間圍繞 CUDA 建立工作流程，創造了超越硬體效能的轉換成本。這些成本使得競爭晶片即使提供更具吸引力的經濟效益，也較難吸引工作負載。TorchNeuron 專注於減少將軟體適應到不同計算平台所需的工程時間與成本。PyTorch 在 AI 研發中廣泛使用。Amazon 無需立即取代 CUDA，即可降低嘗試替代方案的成本與時間。

此次發佈建立在亞馬遜擴展自訂硅晶片於 AI 訓練與推論領域的基礎上。Trainium 加速器使亞馬遜雲端服務（AWS）能夠使用亞馬遜的硬體提供計算能力，而非完全依賴 Nvidia GPU。亞馬遜的自訂晶片已吸引眾多主要 AI 客戶，包括 Anthropic，其在 Anthropic 的 Project Rainier 計算叢集中使用 Trainium。TorchNeuron 可讓更多開發者輕鬆使用 Trainium，否則他們可能因切換成本過高而繼續使用 Nvidia。亞馬遜表示，包括機器人、語音 AI 和世界模型等領域的 30 多家早期客戶正在使用 TorchNeuron。更廣泛的採用將有助於 AWS 在計算成本和 AI 應用部署的便捷性方面與競爭對手抗衡。

該公告並不意味著英偉達的領先地位即將消失。CUDA 仍是一個成熟的生態，亞馬遜仍需證明 Trainium 在高要求工作負載下的競爭性能、可靠性和經濟性。然而，如果開發者能夠在不同平台之間以更少的修改遷移應用程式，競爭壓力可能會加大。更便捷的遷移將為雲端客戶提供更多靈活性，並可能增強亞馬遜在 AI 基礎設施成本上的議價能力。

投資者的核心問題在於，亞馬遜能否將更容易的軟體遷移轉化為對 Trainium 的持續需求。亞馬遜正試圖降低讓客戶繼續使用英偉達晶片的軟體壁壘，而不僅僅是開發替代性硬體。成功將削弱保護英偉達免受競爭的軟體優勢。