Projek Sumber Terbuka Unlock GPU Meningkatkan Prestasi AI Siri RTX 30 sehingga 60%

icon币界网
Kongsi
AI summary iconRingkasan
Sebuah projek sumber terbuka bernama GPU Unlock menarik perhatian sebagai altcoin yang perlu dipantau untuk meningkat di pasaran. Alat ini meningkatkan prestasi AI pada GPU NVIDIA RTX siri 30 sehingga sebanyak 58.6% dalam operasi FP16/BF16 dan TF32. Ia menghilangkan had buatan tanpa mengubah pemandu atau VBIOS. Keuntungan datang daripada throughput tensor core, bukan bandwidth memori atau teras CUDA. Keputusan berbeza mengikut peranti dan beban kerja. Minat terbuka terhadap aset berkaitan AI juga meningkat seiring dengan perkembangan ini.
Laman web dunia mata wang kripto melaporkan:

Kartu grafik GeForce RTX 30 series (kod nama Ampere) yang telah dipasarkan oleh NVIDIA jelas masih mempunyai banyak potensi pengiraan yang belum dimanfaatkan. Pengguna GitHub, Zagitta, telah membangunkan projek sumber terbuka bernama GPU Unlock yang boleh melepaskan sebahagian had prestasi yang sengaja ditetapkan pada kartu grafik berasaskan arsitektur Ampere. Di bawah beban tertentu, throughput pengiraan tensor core hampir boleh ganda dua, tanpa perlu mengubah pemandu NVIDIA atau menulis semula VBIOS kartu grafik secara kekal.

IT Rumah memperhatikan bahawa projek ini secara khusus menangani had kadar pelepasan arahan: dalam operasi tensor FP16/BF16 dengan pengumpulan FP32, kadar operasi kad grafik Ampere konsumen lebih rendah berbanding kad profesional. Selepas had ini dilepaskan, alat ini mampu melepaskan prestasi pengiraan tambahan yang sudah dimiliki oleh peranti keras kad grafik.

Yang menarik, GPU Unlock dibina atas dasar kajian sebelumnya terhadap kad grafik NVIDIA CMP untuk penambangan kripto. Ia menggabungkan teknik pembukaan firmware projek CMP dan satu set skrip inisialisasi awal, yang bergantung pada modul kernel Linux untuk menjalankan operasi sebelum pemandu kad grafik NVIDIA dimuatkan. Modul ini mengubah pendaftar pilihan kelajuan peranti yang bersesuaian, menjalankan satu fungsi reset (FLR), selepas itu pemandu asal boleh menginisialisasi kad grafik dengan normal.

Ini juga bermakna pengguna tidak perlu lagi memperbaiki pemandu semasa mengemas kini ke versi pemandu baru. Pembangun kini menyatakan sokongan untuk model GPU GA102, GA103, GA104, dan GA106, yang meliputi sebahagian besar model dalam siri RTX 30, tetapi tidak semua kad grafik pasti kompatibel, dan tidak dijamin akan mendapat peningkatan prestasi.

Peningkatan prestasi boleh sangat ketara. Berdasarkan data ujian prestasi yang dikeluarkan oleh repositori GitHub projek, RTX 3090 Ti dengan had kuasa 450W menghasilkan hasil berikut dalam ujian pendaraban matriks padat (GEMM) menggunakan penambahan FP32:

Peningkatan semacam ini tidak hanya berlaku pada RTX 3090 Ti. Seorang pengguna RTX 3080 Ti melaporkan bahawa dengan had kuasa kad grafik pada 315W, throughput BF16 meningkat dari 71.59 TFLOPS kepada 113.98 TFLOPS, dan prestasi TF32 meningkat dari 35.65 TFLOPS kepada 65.28 TFLOPS. Satu laporan kompatibiliti untuk RTX 3080 10GB juga menunjukkan bahawa di bawah had kuasa pabrik asal 320W, prestasi FP16/BF16 meningkat dari sekitar 65 TFLOPS kepada 110–113 TFLOPS. Keputusan ujian ini juga telah dibincangkan secara meluas di platform X.

Bagaimana prestasinya dalam aplikasi sebenar? Untungnya, pengguna komuniti telah mula menguji fungsi yang dibuka ini di bawah beban AI sebenar, dan keputusan awal agak optimis.

Seorang pengguna RTX 3090 Ti di Reddit menjalani ujian prestasi di ComfyUI, di mana throughput MOSS-Image SFT BF16 meningkat 58.6%, Qwen-Image 2.1 Turbo BF16 meningkat 57.2%, dan Z-Image Turbo BF16 meningkat 56.1%. Namun, peningkatan dalam modus ketepatan INT8 sangat kecil, dengan MOSS-Image SFT INT8 hanya meningkat 0.3%. Pengujian juga menyatakan bahawa hasil dekod gambar yang dihasilkan dalam keadaan lalai dan selepas dibuka kunci adalah sama sepenuhnya.

推理 untuk model bahasa besar (LLM) juga merupakan skenario yang berpotensi mendapat manfaat, tetapi peningkatan efek sangat bergantung pada jenis beban. Sebagai contoh, laporan kompatibilitas RTX 3090 menunjukkan bahwa pemrosesan prompt dan throughput inferensi vLLM meningkat 33%, tetapi kecepatan generasi token hampir tidak berubah. Ini juga mudah dipahami, karena bottleneck pada tahap dekoding model bahasa besar seringkali adalah bandwidth memori video, bukan throughput komputasi mentah dari tensor core.

Perkembangan lain yang perlu diperhatikan ialah implementasi percubaan Windows, yang tidak lagi menggunakan modul kernel Linux sebelumnya, tetapi berdasarkan pendekatan UEFI. Pembangun telah merekodkan kes berjaya pada RTX 3090, dengan peningkatan throughput pengiraan BF16 sebanyak kira-kira 82.5%. Namun, versi ini masih bersifat percubaan, hanya kompatibel dengan peranti tertentu, dan bukan versi rasmi Windows yang boleh digunakan secara umum.

Rancangan ini juga mempunyai kelemahan yang jelas. GPU Unlock tidak akan meningkatkan lebar pita memori video, tidak akan membuka kunci lebih banyak inti CUDA, dan tidak akan mempercepat semua beban secara automatik. Sekurang-kurangnya satu respons daripada RTX 3080 Ti 20GB menunjukkan bahawa proses pembukaan kunci berjaya, tetapi prestasi BF16 tidak meningkat seperti yang dijangka, menunjukkan bahawa kesannya tidak seragam.

Dalam aspek permainan, teknologi DLSS milik NVIDIA juga menggunakan tensor core, tetapi hingga kini tidak ada bukti yang boleh dipercayai yang menunjukkan bahawa GPU Unlock boleh meningkatkan kadar bingkai permainan atau mengurangkan masa yang diperlukan untuk menjalankan DLSS. Keuntungan hanya mungkin diperoleh apabila tugas itu sendiri memanggil arahan dan mod pengumpulan yang terkesan. Oleh itu, skor pengiraan yang menarik ini tidak boleh dianggap sama dengan peningkatan kadar bingkai permainan yang seiring.

Walaupun begitu, GPU Unlock tetap merupakan percubaan baru yang menarik bagi pemilik kad grafik siri RTX 30, terutamanya pengguna yang menggunakan kad grafik untuk inferens AI tempatan, penghasilan imej, dan skenario beban pengiraan tinggi lain. Projek ini masih berada dalam peringkat eksperimen, tetapi mampu mengeluarkan prestasi tambahan yang signifikan daripada kad grafik sedia ada tanpa perlu mengubah suai peranti secara kekal, benar-benar menarik.

Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.