Amazon Web Services, AI startup'ların uygulamalarını Amazon Trainium çiplerine taşımasına yardımcı olmak için Pazartesi günü TorchNeuron'u yayınladı. Bu araç, Nvidia'nın AI uygulamaları için varsayılan donanım seçimi olmasına yardımcı olan yazılım avantajını zorluyor. Amazon, TorchNeuron'un PyTorch ile yazılmış uygulamaların kodu yeniden yazmadan sadece bir yapılandırma satırını değiştirerek Trainium üzerinde çalışmasını sağladığını söylüyor.
PyTorch, AI modelleri oluşturma, eğitme ve çalıştırma için ücretsiz ve açık kaynaklı bir araç setidir. Amazon, AI uygulamalarının yaklaşık %85'inin PyTorch ile yazıldığını belirtiyor. Facebook, PyTorch'u ilk olarak geliştirdi ve 2022'den beri Linux Vakfı'nın bir parçasıdır. Linux Vakfı, açık kaynak projeleri sürdürüyor. Nvidia, Nvidia donanımında uygulamaları çalıştırmak için kullanılan CUDA yazılım altyapısının PyTorch uygulamalarını sorunsuz şekilde desteklemesini sağlamak için yıllarca çalıştı. Sonuç olarak Nvidia donanımı, neredeyse varsayılan olarak PyTorch içinde derinlemesine entegre hale geldi.
TorchNeuron, PyTorch'den uyarlanmıştır; bu nedenle PyTorch ile tanıdık geliştiriciler TorchNeuron'u zaten kullanmayı biliyor. PyTorch kullanıcıları, basit bir yapılandırma değişikliğiyle uygulamalarını AMD GPU'larına veya Apple'ın çiplerine taşıyabilir. Ancak Amazon, Trainium'a geçmenin AI startup'larına Amazon'un tam bulut altyapısına erişim sağladığını savunuyor. AWS, AWS'nin Coreweave, Nebius ve Firmus gibi Nvidia donanımına bağlı özel bulut sağlayıcılarından daha iyi bir seçim olduğunu iddia ediyor.
Colin Brace, AWS Annapurna Labs' Teknoloji Yazılım Başkan Yardımcısıdır; bu birim, Amazon'un özel çiplerini üretir. Brace, AWS'nin kurucuların prototiplerden üretime geçmesi ve gerekirse operasyonlarını genişletmesi için gerekli altyapıyı zaten sunduğunu söyledi. AWS, Trainium'un model eğitimi ve çıkarım işlemlerini aynı anda yürüttüğünü belirtti; çıkarım aşamasında, tamamlanmış modeller kullanıcıların sorularını yanıtlama gibi görevleri yerine getirir. AWS, her iki görev için de aynı çipi kullanmanın ve bunu bulut altyapısıyla sıkı bir şekilde entegre etmenin, her token başına en düşük fiyata sahip olmasa bile başlangıç şirketlerinin maliyetlerini düşüreceğini savunuyor. Brace, Trainium'un eğitim ve çıkarım için tek bir platform sunarak tam bir iş yükü boyunca maliyetleri fiyat-performans açısından iyileştirdiğini söyledi. Brace, Deepgram'ın yerel PyTorch desteğiyle Trainium'a geçtiğini ve üretim kalitesindeki doğrulukla dolar başına %70 daha fazla ses işleme yaptığını ifade etti. Deepgram, yapay zeka ses uygulamaları sağlar ve ElevenLabs ile rekabet eder.
Amazon, şirketin PyTorch'u Nvidia üzerinde otomatik olarak odaklanmaktan uzaklaştırmaya çalıştığını söylüyor. Amazon, bu çabayı desteklemek için ana PyTorch projesine kod katkıda bulunacağını belirtiyor. Amazon'un duyurusuna göre, şirket, çerçeveyi belirli çiplere bağlayan kodları PyTorch topluluğu ile birlikte kaldırıyor. Amazon, hedefinin PyTorch'u sadece Trainium kullanıcıları değil, tüm geliştiriciler için belirli donanımlara daha az bağımlı hale getirmek olduğunu söylüyor.
Bu çaba, Nvidia ile rekabet eden donanım ve bulut sağlayıcılarına fayda sağlar. Ancak PyTorch, geliştiricileri donanımda AI kodu çalıştırmakla ilgili zorluklardan kısmen korumayı amaçlar. PyTorch'un Nvidia'a olan bağımlılığını azaltmak, Amazon'un vaat ettiği gibi daha fazla seçim ve daha uygun fiyatlı seçenekler sunabilir ya da daha fazla yapılandırma zorluğu yaratabilir. PyTorch'u Nvidia'dan başarıyla ayırmak, diğer çip üreticilerinden kaynaklanan rekabetten daha büyük sonuçlar doğurabilir. Brace, bu çabayı, geliştiricilerin gerçek bir seçim yapmasını engelleyen kısıtlamaları kaldırmak olarak tanımladı.
Amazon, TorchNeuron'u Nvidia'nın Yapay Zeka Yazılımı üstünlüğünü zorlamak için piyasaya sürüyor
FLASH AIPaylaş
Özet
Amazon, AI geliştiricilerinin PyTorch uygulamalarını minimum kod değişikliğiyle AWS Trainium çiplerinde çalıştırmalarını sağlayan TorchNeuron adlı yeni bir araç sundu. Bu araç, PyTorch’un Nvidia’nın CUDA yazılımına olan bağımlılığını azaltıyor. AWS, geliştiricilerin bir yapılandırma satırı ile Trainium’a geçebileceğini belirtiyor. Şirket, PyTorch’u daha az donanım bağımlı hale getirmek için PyTorch’a kod katkıda bulunacak. Eğitim ve çıkarım için Trainium kullanan startup’lar maliyetlerini düşürebilir. Deepgram, geçişten sonra dolar başına ses işleme performansında %70 artış bildirdi. Bu AI + kripto haberi, AWS’in zincir üstü haberler ve AI altyapısına yönelik çabalarını vurguluyor.
Kaynak:Orijinalini göster
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir.
Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.