ME Haberleri'ne göre, 15 Nisan (UTC+8) tarihinde 1M AI News'in izlemesine göre, Hugging Face CEO'su Clem Delangue, Kernels'in Hub üzerinde resmen başlatıldığını duyurdu. GPU operatörleri, ekran kartlarının maksimum hızda çalışmasını sağlayan alt seviye optimizasyon kodlarıdır ve çıkarım ile eğitimi 1,7 ila 2,5 kat hızlandırır; ancak kurulumu her zaman bir kâbus olmuştur: En yaygın olan FlashAttention örneğini alalım, yerel derleme yaklaşık 96 GB bellek ve saatlerce sürebilir; PyTorch ve CUDA sürümleri hafifçe bile uyumsuzsa hata verir ve çoğu geliştirici bu kurulum adımında takılı kalır. Kernels Hub, derlemeyi buluta taşır. Hugging Face, çeşitli ekran kartları ve sistem ortamlarında operatörleri önceden derleyerek geliştiricilerin bir satır kod yazmasıyla Hub'ın donanım ortamını otomatik olarak eşleştirip, birkaç saniye içinde önceden derlenmiş dosyaları indirip doğrudan kullanmasını sağlar. Aynı işlemde birden fazla farklı versiyon operatörü yükleyebilir ve torch.compile ile uyumludur. Kernels, geçen yıl Haziran'da test aşamasında başlatılmıştı ve bu ay Models, Datasets ve Spaces ile eşit düzeyde bir Hub birincil deposu olarak yükseltildi. Şu anda 61 önceden derlenmiş operatör mevcuttur ve dikkat mekanizmaları, normalleştirme, karışık uzman yönlendirme, nicelleştirme gibi yaygın senaryoları kapsar; NVIDIA CUDA, AMD ROCm, Apple Metal ve Intel XPU olmak üzere dört donanım hızlandırma platformunu destekler ve Hugging Face'in TGI ve Transformers kütüphanelerine entegre edilmiştir. (Kaynak: BlockBeats)
Hugging Face, Önceden Derlenmiş GPU İşleyiciler İçin Kernels Hub'ı Başlatıyor
KuCoinFlashPaylaş
Özet
Hugging Face CEO Clem Delangue, 15 Nisan (UTC+8) tarihinde Hub üzerinde Kernels'in resmi sürümünü açıkladı; bu, geliştiriciler için önemli bir zincir üstü haber olayıdır. Kernels, önceden derlenmiş GPU operatörleri sunarak çıkarım ve eğitim hızlarını 1,7 ile 2,5 kat arasında artırır. Geliştiriciler artık bu operatörleri tek bir kod satırı ile kurabilir; derleme işlemi Hugging Face tarafından bulut tabanlı olarak yönetilir. Hub, donanımı otomatik olarak eşleştirir ve dosyaları saniyeler içinde teslim eder. Kernels, artık bir üst düzey deposu türü olarak 61 adet yaygın görevler için operatör içerir ve NVIDIA CUDA, AMD ROCm, Apple Metal ve Intel XPU'yu destekler. Token lansman haberi, Haziran 2025'te başlayan beta aşamasından sonra gelmiştir.
Kaynak:Orijinalini göster
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir.
Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.