Berita ME, 15 April (UTC+8), menurut pemantauan 1M AI News, CEO Hugging Face Clem Delangue mengumumkan bahwa Kernels resmi diluncurkan di Hub. GPU operators adalah kode optimasi dasar yang memaksimalkan kecepatan kartu grafis, mampu mempercepat inferensi dan pelatihan hingga 1,7 hingga 2,5 kali, tetapi pemasangannya selalu menjadi mimpi buruk: sebagai contoh, FlashAttention yang paling umum digunakan memerlukan sekitar 96 GB memori dan beberapa jam untuk dikompilasi secara lokal; kesalahan sering muncul jika versi PyTorch atau CUDA sedikit tidak sesuai, sehingga sebagian besar pengembang terhenti pada tahap pemasangan ini. Kernels Hub memindahkan proses kompilasi ke cloud. Hugging Face telah mengompilasi operator-operator tersebut terlebih dahulu di berbagai lingkungan kartu grafis dan sistem, sehingga pengembang hanya perlu menulis satu baris kode, Hub akan secara otomatis mencocokkan lingkungan perangkat keras, lalu mengunduh file yang sudah dikompilasi dalam hitungan detik dan siap digunakan. Satu proses dapat memuat beberapa versi operator yang berbeda, kompatibel dengan torch.compile. Kernels awalnya diluncurkan dalam versi uji coba pada Juni tahun lalu, dan bulan ini dinaikkan statusnya menjadi tipe repositori utama di Hub, sejajar dengan Models, Datasets, dan Spaces. Saat ini telah tersedia 61 operator yang sudah dikompilasi, mencakup skenario umum seperti mekanisme perhatian, normalisasi, routing pakar campuran, dan kuantisasi, mendukung empat platform akselerasi perangkat keras: NVIDIA CUDA, AMD ROCm, Apple Metal, dan Intel XPU, serta telah terintegrasi ke dalam kerangka kerja inferensi Hugging Face TGI dan pustaka Transformers. (Sumber: BlockBeats)
Hugging Face Meluncurkan Kernels Hub untuk Operator GPU yang Sudah Dikompilasi
KuCoinFlashBagikan
Ringkasan
CEO Hugging Face, Clem Delangue, mengonfirmasi rilis resmi Kernels di Hub pada 15 April (UTC+8), menandai peristiwa berita on-chain yang signifikan bagi para pengembang. Kernels menawarkan operator GPU yang telah dikompilasi sebelumnya, meningkatkan kecepatan inferensi dan pelatihan hingga 1,7 hingga 2,5 kali. Para pengembang kini dapat menginstal operator-operator ini menggunakan satu baris kode, dengan kompilasi berbasis cloud ditangani oleh Hugging Face. Hub secara otomatis mencocokkan perangkat keras dan mengirimkan file dalam hitungan detik. Kini sebagai jenis repositori tingkat atas, Kernels mencakup 61 operator untuk tugas-tugas umum, mendukung NVIDIA CUDA, AMD ROCm, Apple Metal, dan Intel XPU. Berita peluncuran token ini muncul setelah fase beta pada Juni 2025.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.