Amazon memperkenalkan TorchNeuron, alat open-source yang dirancang untuk menjalankan kode AI berbasis PyTorch pada chip Trainium milik Amazon dengan sedikit modifikasi. Amazon mungkin telah menemukan cara untuk menantang keunggulan perangkat lunak Nvidia dengan mengurangi kebutuhan pengembang untuk menulis ulang kode. Pengumuman TorchNeuron dari Amazon menyatakan bahwa pengembang dapat menjalankan kode PyTorch yang sudah ada di Trainium hanya dengan perubahan konfigurasi, bukan menulis ulang seluruh aplikasi.
Keunggulan AI Nvidia melampaui chip ke CUDA, ekosistem perangkat lunak yang menjadi andalan pengembang untuk membangun dan menjalankan beban kerja AI. Pengembang telah menghabiskan bertahun-tahun membangun alur kerja berbasis CUDA, menciptakan biaya beralih yang melampaui kinerja perangkat keras. Biaya-biaya ini membuat chip pesaing kurang mampu menarik beban kerja, bahkan ketika chip pesaing menawarkan ekonomi yang menarik. TorchNeuron menargetkan waktu dan biaya teknik yang terlibat dalam menyesuaikan perangkat lunak ke platform komputasi yang berbeda. PyTorch banyak digunakan di seluruh penelitian dan pengembangan AI. Amazon tidak perlu menggantikan CUDA segera untuk membuat eksperimen dengan alternatif menjadi lebih hemat biaya dan waktu.
Peluncuran ini memperkuat upaya Amazon untuk memperluas silikon khusus di seluruh pelatihan dan inferensi AI. Akselerator Trainium memungkinkan Amazon Web Services (AWS) menawarkan kapasitas komputasi menggunakan perangkat keras Amazon daripada bergantung sepenuhnya pada GPU Nvidia. Chip khusus Amazon telah menarik pelanggan AI besar, termasuk Anthropic, yang menggunakan Trainium di klaster komputasi Project Rainier Anthropic. TorchNeuron dapat membuat Trainium dapat diakses oleh lebih banyak pengembang yang sebelumnya tetap menggunakan Nvidia karena beralih memerlukan terlalu banyak usaha. Amazon menyatakan lebih dari 30 pelanggan awal di berbagai bidang, termasuk robotika, AI suara, dan model dunia, sedang menggunakan TorchNeuron. Adopsi yang lebih luas dapat membantu AWS bersaing dalam hal biaya komputasi dan kemudahan penerapan aplikasi AI.
Pengumuman tersebut tidak berarti kepemimpinan Nvidia akan segera hilang. CUDA tetap menjadi ekosistem yang matang, dan Amazon masih harus membuktikan kinerja, keandalan, dan ekonomi Trainium secara kompetitif di berbagai beban kerja yang menuntut. Namun, tekanan kompetitif bisa meningkat jika pengembang dapat memindahkan aplikasi antar platform dengan sedikit perubahan. Migrasi yang lebih mudah akan memberi pelanggan cloud lebih banyak fleksibilitas dan berpotensi memperkuat daya tawar Amazon terhadap biaya infrastruktur AI.
Pertanyaan kunci bagi para investor adalah apakah Amazon dapat mengonversi migrasi perangkat lunak yang lebih mudah menjadi permintaan Trainium yang berkelanjutan. Amazon berusaha mengurangi hambatan perangkat lunak yang membuat pelanggan tetap menggunakan chip Nvidia, bukan hanya membangun perangkat keras alternatif. Keberhasilan ini bisa melemahkan keunggulan perangkat lunak yang melindungi Nvidia dari persaingan.
Amazon Meluncurkan TorchNeuron untuk Menjalankan Kode PyTorch pada Chip Trainium
BenzingaBagikan
Ringkasan
Amazon meluncurkan TorchNeuron, alat open-source untuk menjalankan kode PyTorch pada chip Trainium dengan perubahan minimal. Alat ini membantu pengembang menghindari penulisan ulang aplikasi saat beralih dari CUDA Nvidia. TorchNeuron memungkinkan model PyTorch yang sudah ada untuk berjalan di Trainium hanya dengan pembaruan konfigurasi, mengurangi biaya beralih. Perusahaan AI besar seperti Anthropic sudah menggunakan Trainium, dan lebih dari 30 pengguna awal sedang menguji TorchNeuron. Berita on-chain ini menandai pergeseran dalam berita AI + kripto saat Amazon menantang dominasi Nvidia.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.