亞馬遜雲科技於週一發布 TorchNeuron，協助人工智慧初創企業將應用程式遷移至亞馬遜的 Trainium 芯片。該工具挑戰了有助於使英偉達成為人工智慧應用程式預設硬體選擇的軟體優勢。亞馬遜表示，TorchNeuron 可讓使用 PyTorch 撰寫的應用程式僅需更改一行設定，無需重寫程式碼，即可在 Trainium 上運行。
PyTorch 是一個免費且開源的工具包，用於構建、訓練和運行 AI 模型。Amazon 表示，約 85% 的 AI 應用程式都是使用 PyTorch 開發的。Facebook 原本開發了 PyTorch，自 2022 年起成為 Linux 基金會的一部分。Linux 基金會負責維護開源專案。Nvidia 多年來一直確保 CUDA（用於在 Nvidia 硬體上運行應用程式的軟體基礎架構）能無縫支援 PyTorch 應用程式。因此，Nvidia 硬體已深度整合至 PyTorch 中，幾乎成為默認選擇。
TorchNeuron 基於 PyTorch 改編，因此熟悉 PyTorch 的開發者已知如何使用 TorchNeuron。PyTorch 用戶也可透過簡單的設定變更，將應用程式移至 AMD GPU 或 Apple 的晶片。然而，亞馬遜認為，遷移至 Trainium 同時讓 AI 創業公司獲得亞馬遜整個雲端的存取權限。AWS 聲稱，對於創業公司而言，AWS 比 Coreweave、Nebius 和 Firmus 等與 Nvidia 硬體綁定的專業雲端供應商更為優越。
Colin Brace 是 AWS Annapurna Labs 的技術軟體副總裁，該部門負責開發亞馬遜的定制晶片。Brace 表示，AWS 已經為創始人提供了從原型轉向生產並在必要時擴展運營所需的基礎設施。AWS 表示，Trainium 可同時處理模型訓練和推論，當完成的模型執行如回答用戶問題等任務時即為推論。AWS 認為，使用同一顆晶片處理這兩項任務，並與雲端基礎設施緊密整合，即使不是每代幣價格最低，也能為初創公司節省成本。Brace 表示，Trainium 透過性價比以及單一平台進行訓練與推論，全面降低工作負載的成本。Brace 說，Deepgram 借助原生 PyTorch 支援遷移至 Trainium，在生產級準確度下，每美元處理的音訊量增加了 70%。Deepgram 提供 AI 語音應用程式，與 ElevenLabs 競爭。
Amazon 表示，公司正在努力讓 PyTorch 不再自動偏向 Nvidia。Amazon 表示，將向主 PyTorch 專案貢獻程式碼，以支持這項工作。Amazon 的公告指出，公司正與 PyTorch 社群合作，移除將框架與特定晶片綁定的程式碼。Amazon 表示，目標是讓所有開發者（不僅限於 Trainium 用戶）的 PyTorch 對特定硬體的依賴性降低。
此舉有益於與英偉達競爭的硬體和雲端供應商。然而，PyTorch 部分旨在讓開發者避開在硬體上運行 AI 代碼的困難。減少 PyTorch 對英偉達的依賴，如亞馬遜所承諾的，可能帶來更多選擇和更實惠的選項，或造成更多配置困難。成功將 PyTorch 與英偉達分離，對英偉達的影響可能大於其他晶片製造商的單純競爭。Brace 將此舉描述為移除限制，使開發者能擁有真正的選擇。
Amazon 推出 TorchNeuron 以挑戰 Nvidia 的 AI 軟體主導地位
FLASH AI分享
精華摘要
Amazon 已推出 TorchNeuron，這是一種新工具，讓 AI 開發者只需最少的程式碼更改，即可在 AWS Trainium 芯片上運行 PyTorch 應用程式。該工具降低了 PyTorch 對 Nvidia CUDA 軟體的依賴。AWS 表示，開發者只需一行設定即可切換至 Trainium。公司還將向 PyTorch 貢獻程式碼，以減少其對硬體的依賴。使用 Trainium 進行訓練和推論的初創公司可降低成本。Deepgram 報告稱，在切換後，每美元的音訊處理效能提升了 70%。這項 AI + 加密貨幣新聞突顯了 AWS 在鏈上新聞和 AI 基礎設施領域的推進。
來源:顯示原文
免責聲明：本頁面資訊可能來自第三方，不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用，不構成任何形式的陳述或保證，也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏，或因使用該資訊而導致的任何結果不承擔任何責任。
虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息，請參閱我們的使用條款和風險披露 。