Amazon melancarkan TorchNeuron untuk menjalankan kod PyTorch pada cip Trainium

iconBenzinga
Kongsi
AI summary iconRingkasan
Amazon melancarkan TorchNeuron, alat sumber terbuka untuk menjalankan kod PyTorch pada cip Trainium dengan perubahan minimum. Alat ini membantu pembangun mengelakkan penulisan semula aplikasi apabila berpindah dari CUDA Nvidia. TorchNeuron membolehkan model PyTorch yang sedia ada berjalan di Trainium hanya dengan kemas kini konfigurasi, mengurangkan kos peralihan. Syarikat AI utama seperti Anthropic sudah menggunakan Trainium, dan lebih 30 pengguna awal sedang menguji TorchNeuron. Berita ini di rantai menandakan perubahan dalam berita AI + kripto kerana Amazon menantang dominasi Nvidia.

Amazon memperkenalkan TorchNeuron, alat sumber terbuka yang direka untuk menjalankan kod AI berbasis PyTorch pada cip Trainium Amazon dengan sedikit perubahan. Amazon mungkin telah menemui cara untuk menantang kelebihan perisian Nvidia dengan mengurangkan keperluan pembangun untuk menulis semula kod. Pengumuman TorchNeuron Amazon menyatakan bahawa pembangun boleh menjalankan kod PyTorch sedia ada pada Trainium dengan perubahan konfigurasi, bukan menulis semula keseluruhan aplikasi.

Kelebihan AI Nvidia meluas melebihi cip kepada CUDA, ekosistem perisian yang para pembangun andalkan untuk membina dan menjalankan beban kerja AI. Pembangun telah menghabiskan bertahun-tahun membina alur kerja berdasarkan CUDA, mencipta kos peralihan yang melampaui prestasi peranti keras. Kos-kos ini menjadikan cip pesaing kurang mampu menarik beban kerja, walaupun cip pesaing menawarkan ekonomi yang menarik. TorchNeuron menargetkan masa dan perbelanjaan kejuruteraan yang terlibat dalam menyesuaikan perisian kepada platform pengkomputeran yang berbeza. PyTorch digunakan secara meluas di seluruh penyelidikan dan pembangunan AI. Amazon tidak perlu menggantikan CUDA segera untuk menjadikan percubaan dengan alternatif kurang bermasa dan berkos.

Pelancaran ini memperkukuh usaha Amazon untuk memperluas silikon tersuai merentas latihan dan inferens AI. Akselerator Trainium membolehkan Amazon Web Services (AWS) menawarkan kapasiti pengkomputeran menggunakan peranti keras Amazon daripada bergantung sepenuhnya pada GPU Nvidia. Cip tersuai Amazon telah menarik pelanggan AI utama, termasuk Anthropic, yang menggunakan Trainium dalam cluster pengkomputeran Project Rainier Anthropic. TorchNeuron boleh menjadikan Trainium boleh diakses oleh lebih ramai pembangun yang sebelumnya akan kekal dengan Nvidia kerana peralihan memerlukan terlalu banyak usaha. Amazon mengatakan lebih daripada 30 pelanggan awal merentas bidang termasuk robotik, AI suara, dan model dunia sedang menggunakan TorchNeuron. Penggunaan yang lebih luas boleh membantu AWS bersaing dari segi kos pengkomputeran dan kemudahan pelaksanaan aplikasi AI.

Pengumuman tersebut tidak bermaksud bahawa keunggulan Nvidia akan segera hilang. CUDA tetap menjadi ekosistem yang matang, dan Amazon masih perlu membuktikan prestasi, kebolehpercayaan, dan ekonomi Trainium di pelbagai beban kerja yang menuntut. Namun, tekanan persaingan boleh meningkat jika pembangun boleh memindahkan aplikasi antara platform dengan sedikit perubahan. Pemindahan yang lebih mudah akan memberikan fleksibiliti yang lebih besar kepada pelanggan awan dan berpotensi memperkuat kuasa tawar-menawar Amazon terhadap kos infrastruktur AI.

Soalan utama bagi pelabur ialah sama ada Amazon boleh menukar migrasi perisian yang lebih mudah kepada permintaan Trainium yang berterusan. Amazon cuba mengurangkan halangan perisian yang menyebabkan pelanggan terus menggunakan cip Nvidia, bukan sekadar membina peranti keras alternatif. Kejayaan boleh melemahkan kelebihan perisian yang melindungi Nvidia daripada persaingan.

Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.