Amazon Web Services melancarkan TorchNeuron pada hari Isnin untuk membantu permulaan AI memindahkan aplikasi ke cip Trainium milik Amazon. Alat ini menantang kelebihan perisian yang membantu menjadikan Nvidia sebagai pilihan peranti lalai untuk aplikasi AI. Amazon mengatakan TorchNeuron membolehkan aplikasi yang ditulis dengan PyTorch berjalan di Trainium dengan mengubah hanya satu baris konfigurasi, tanpa menulis semula kod.
PyTorch ialah toolkit percuma dan sumber terbuka untuk membina, melatih, dan menjalankan model AI. Amazon mengatakan sekitar 85% aplikasi AI ditulis menggunakan PyTorch. Facebook pada mulanya membangunkan PyTorch, yang telah menjadi sebahagian daripada Linux Foundation sejak 2022. Linux Foundation memelihara projek sumber terbuka. Nvidia telah menghabiskan bertahun-tahun memastikan CUDA, infrastruktur perisian untuk menjalankan aplikasi pada peranti Nvidia, menyokong aplikasi PyTorch dengan lancar. Peranti Nvidia seterusnya menjadi tertanam dalam PyTorch, pada dasarnya secara lalai.
TorchNeuron diadaptasi daripada PyTorch, jadi pembangun yang sudah biasa dengan PyTorch sudah tahu cara menggunakan TorchNeuron. Pengguna PyTorch juga boleh memindahkan aplikasi ke GPU AMD atau cip Apple dengan perubahan konfigurasi yang mudah. Namun, Amazon berhujah bahawa memindahkan ke Trainium juga memberikan akses kepada permulaan AI kepada keseluruhan awan Amazon. AWS mengklaim bahawa AWS adalah pilihan yang lebih baik untuk permulaan berbanding penyedia awan khusus seperti Coreweave, Nebius dan Firmus, yang terikat kepada peranti Nvidia.
Colin Brace ialah naib presiden Perisian Teknologi di AWS Annapurna Labs, unit yang menghasilkan cip khusus Amazon. Brace berkata AWS sudah menyediakan infrastruktur yang diperlukan oleh pendiri untuk berpindah dari prototaip ke pengeluaran dan memperluaskan operasi apabila diperlukan. AWS menyatakan bahawa Trainium menangani kedua-dua latihan model dan inferens, apabila model yang telah selesai menjalankan tugas seperti menjawab soalan pengguna. AWS berhujah bahawa penggunaan cip yang sama untuk kedua-dua tugas, yang diintegrasikan rapat dengan infrastruktur awan, akan menjimatkan wang permulaan walaupun tanpa harga terendah per token. Brace berkata Trainium meningkatkan kos sepanjang beban kerja penuh melalui harga-kecekapan dan satu platform tunggal untuk latihan dan inferens. Brace berkata Deepgram berpindah ke Trainium menggunakan sokongan PyTorch asli dan memproses 70% lebih banyak audio setiap dolar dengan ketepatan peringkat pengeluaran. Deepgram menyediakan aplikasi suara AI dan bersaing dengan ElevenLabs.
Amazon mengatakan syarikat juga sedang bekerja untuk mengurangkan ketergantungan PyTorch secara automatik terhadap Nvidia. Amazon mengatakan syarikat akan menyumbang kod ke projek utama PyTorch untuk menyokong usaha tersebut. Pengumuman Amazon menyatakan bahawa syarikat bekerja bersama komuniti PyTorch untuk menghapuskan kod yang mengikat kerangka kerja kepada cip tertentu. Amazon mengatakan matlamatnya adalah menjadikan PyTorch kurang bergantung kepada peranti tertentu untuk semua pembangun, bukan hanya pengguna Trainium.
Usaha ini memberi manfaat kepada penyedia peranti keras dan awan yang bersaing dengan Nvidia. Namun, PyTorch sebahagiannya bertujuan untuk melindungi pembangun daripada kesukaran menjalankan kod AI pada peranti keras. Mengurangkan ketergantungan PyTorch pada Nvidia boleh memberikan lebih banyak pilihan dan pilihan yang lebih terjangkau, seperti dijanjikan Amazon, atau mencipta lebih banyak kesukaran konfigurasi. Berjaya memisahkan PyTorch daripada Nvidia boleh memberi kesan yang lebih besar kepada Nvidia berbanding persaingan sahaja daripada pembuat cip lain. Brace menggambarkan usaha ini sebagai menghapuskan sekatan yang sebelumnya menghalang pembangun daripada memiliki pilihan sebenar.
Amazon melancarkan TorchNeuron untuk menantang keunggulan perisai AI Nvidia
FLASH AIKongsi
Ringkasan
Amazon telah melancarkan TorchNeuron, alat baharu untuk pembangun AI untuk menjalankan aplikasi PyTorch pada cip AWS Trainium dengan perubahan kod minimum. Alat ini mengurangkan ketergantungan PyTorch pada perisian CUDA Nvidia. AWS menyatakan bahawa pembangun boleh berpindah ke Trainium dengan satu baris konfigurasi. Syarikat ini juga akan menyumbang kod ke PyTorch untuk menjadikannya kurang bergantung pada peranti keras. Startup yang menggunakan Trainium untuk pelatihan dan inferens boleh mengurangkan kos. Deepgram melaporkan peningkatan 70% dalam pemprosesan audio setiap dolar selepas berpindah. Berita AI + kripto ini menonjolkan usaha AWS ke dalam berita atas rantai dan infrastruktur AI.
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini.
Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.