IT Home, 20 Oktober, melaporkan bahwa pada 19 Oktober waktu setempat, Amazon mengumumkan peluncuran alat open-source TorchNeuron. Dengan alat ini, kode PyTorch yang ditulis oleh pengembang dapat dijalankan secara lokal di chip Trainium buatan Amazon, hanya dengan mengubah konfigurasi sekali, tanpa perlu menulis ulang.
IT Home melaporkan bahwa TorchNeuron akan secara resmi dirilis dengan lisensi open source pada 20 Oktober waktu setempat di acara PyTorch North America di San Jose, California.
PyTorch adalah kerangka kerja open source yang dipimpin oleh Meta dan diadopsi oleh sebagian besar pengembang kecerdasan buatan. NVIDIA telah menginvestasikan lebih dari sepuluh tahun untuk mengembangkan alat CUDA yang memungkinkan kode PyTorch berjalan secara efisien di chip NVIDIA.
Menurut laporan, insinyur Amazon menjalankan skrip pelatihan AI yang sama pada chip tradisional dan chip Trainium. Satu-satunya perbedaan terletak pada parameter konfigurasi yang ditentukan dalam kode untuk menentukan chip yang digunakan. Hasilnya menunjukkan bahwa model AI mempelajari konten yang identik dan memiliki kecepatan pembelajaran yang sama di kedua lingkungan tersebut. Ini berarti alat-alat yang sebelumnya digunakan pengembang untuk menguji, mendiagnosis, dan mengembangkan model AI dapat langsung digunakan di Trainium tanpa perlu modifikasi apa pun.
Amazon menyatakan bahwa TorchNeuron membawa elemen kunci yang lama hilang bagi industri kecerdasan buatan: pilihan yang benar-benar layak. Ketika pengembang dapat beralih dengan bebas di antara berbagai chip tanpa biaya tambahan, produsen chip harus bersaing dengan menyediakan produk yang lebih kompetitif untuk menarik minat pengembang; sementara pengembang akan mendapatkan manfaat berupa penurunan biaya dan peningkatan kecepatan iterasi.
Selain itu, Amazon secara aktif berkontribusi pada pengembangan hulu PyTorch, bekerja sama dengan komunitas PyTorch untuk menghapus kode yang mengikat kerangka tersebut ke chip tertentu. Tujuannya adalah membuat PyTorch lebih "netral perangkat keras" bagi seluruh komunitas pengembang, bukan hanya bagi pengguna Trainium.