Ang mga GPU na GeForce RTX 30 series (code name: Ampere) na nasa merkado nang ilang panahon ay may malaking hindi pa napapahalagahang computing potential. Gumawa ng isang bagong open-source project na tinatawag na GPU Unlock si Zagitta mula sa GitHub, na nagpapalabas ng ilang artipisyal na limitasyon sa mga GPU na may Ampere architecture. Sa ilang mga load, ang computing throughput ng tensor cores ay maaaring mag-doble, at walang kailangang baguhin ang NVIDIA driver o mag-flash ng VBIOS ng GPU.

Napansin ng IT Home na ang proyektong ito ay nakatuon sa isang limitasyon sa rate ng instruction issuance: sa mga tensor core operation na gumagamit ng FP32 accumulation sa FP16/BF16, mas mababa ang performance ng mga消费级 Ampere GPU kumpara sa mga professional card. Pagkatapos tanggalin ang limitasyong ito, makakapaglibot ang tool sa karagdagang computing performance na may-ari na ng hardware ng GPU.

Kaugnay na, ang GPU Unlock ay batay sa nakaraang pag-aaral tungkol sa mga NVIDIA CMP cryptocurrency mining GPU. Ipinagsasama nito ang teknolohiya ng firmware unlock para sa CMP project at isang pre-initialization scheme, na gumagamit ng isang Linux kernel module upang mag-execute bago magsimula ang NVIDIA GPU driver. Binabago ng module ang kaugnay na hardware speed selection register, nagpapatakbo ng isang function-level reset (FLR), at pagkatapos ay maaari nang normal na i-initialize ang GPU ng orihinal na driver.
Ito ay nangangahulugan na hindi na kailangang maglagay ng patch ang mga user bawat beses na i-update ang driver. Kasalukuyang sinasabing suportado ng developer ang mga GPU modelong GA102, GA103, GA104, at GA106, na kumakalat sa karamihan sa mga modelo ng RTX 30 series, ngunit hindi lahat ng graphics card ay tiyak na kompatibleng, at hindi garantisadong makakakuha ng pagtaas sa performance.
Ang pagtaas sa performance ay maaaring lubos na makabuluhan. Ayon sa mga benchmark data na inilabas ng proyekto sa GitHub repository, ang isang RTX 3090 Ti na may limitasyon sa pagkakagamit ng enerhiya na 450W, sa pagsubok ng dense matrix multiplication (GEMM) gamit ang FP32 accumulation, ang resulta ay sumusunod:
Hindi lamang sa RTX 3090 Ti ang ganitong pagtaas. Isang gumagamit ng RTX 3080 Ti ay nag-feedback na sa isang power limit ng 315W, ang BF16 throughput ay tumataas mula sa 71.59 TFLOPS patungo sa 113.98 TFLOPS, at ang TF32 performance ay umabot mula sa 35.65 TFLOPS patungo sa 65.28 TFLOPS. Mayroon ding compatibility report para sa RTX 3080 10GB na nagpapakita na sa orihinal na power limit ng 320W ng card, ang FP16/BF16 performance ay tumataas mula sa halos 65 TFLOPS patungo sa 110–113 TFLOPS. Ang mga resultang ito ay malawakang pinag-uusapan din sa platform na X.
Paano naman ang kanyang pagganap sa praktikal na aplikasyon? Mas mainam na ang mga user ng komunidad ay nagsisimula nang subukan ang pinaunlad na tampok sa tunay na AI na load, at ang mga unang resulta ay masasabing positibo.
Isang user ng RTX 3090 Ti sa Reddit ay nagpataas ng performance test sa ComfyUI, kung saan ang throughput ng MOSS-Image SFT BF16 ay tumataas ng 58.6%, ang Qwen-Image 2.1 Turbo BF16 ay tumataas ng 57.2%, at ang Z-Image Turbo BF16 ay tumataas ng 56.1%. Sa INT8 precision mode, ang pagtaas ay maliit lamang, kung saan ang MOSS-Image SFT INT8 ay nagkakaroon lamang ng 0.3% pagtaas. Sinabi rin ng tagapagpataas na ang mga resulta ng decoding ng mga larawan na ginawa sa default state at pagkatapos ng pag-unlock ay ganap na magkakatulad.
Ang pagpapatakbo ng malalaking modelo sa wika (LLM) ay isang potensyal na nakikinabang na skena, ngunit ang antas ng pagpapabuti ay malalaking nakadepende sa uri ng load. Halimbawa, isang kompatibilidad na ulat para sa RTX 3090 ay nagpapakita na ang pagproseso ng prompt at ang throughput ng pagpapalabas ng vLLM ay tumataas ng 33%, ngunit ang bilis ng pagbuo ng token ay halos walang pagbabago. Ito ay maunawaan din, dahil ang bottleneck sa proseso ng decoding ng malalaking modelo sa wika ay karaniwang ang bandwidth ng memorya ng GPU, hindi ang orihinal na throughput ng computation ng tensor cores.
Isang iba pang nakikita na pag-unlad ay ang eksperimental na implementation para sa Windows, na hindi na gumagamit ng dating Linux kernel module, kundi batay sa UEFI. Ikinokumento ng mga developer ang tagumpay sa RTX 3090, na nagdulot ng pagtaas ng BF16 compute throughput ng halos 82.5%. Gayunpaman, ang bersyon na ito ay patuloy na eksperimental, na disenyo lamang para sa partikular na hardware, at hindi pa isang pangkalahatang magagamit na opisyal na bersyon ng Windows.
Mayroon ding malinaw na limitasyon sa scheme na ito. Ang GPU Unlock ay hindi magpapataas ng bandwidth ng VRAM, hindi mag-uunlocks ng karagdagang CUDA cores, at hindi makakapagpabilis ng lahat ng load. Ipinakita ng isang feedback sa RTX 3080 Ti 20GB na ang proseso ng unlocking ay tagumpay, ngunit wala namang inaasahang pagtaas sa BF16 performance, na nagpapakita na ang epekto ay hindi pangkabuuang.
Sa mga laro, ang DLSS technology ni NVIDIA ay gumagamit din ng tensor cores, ngunit wala pa ring kumpirmadong ebidensya na ang GPU Unlock ay makakapagpataas ng frame rate sa laro o makakapagpabawas sa oras ng pagpapatakbo ng DLSS. Ang tanging pagkakataon na makakakuha ng benepisyo ay kung ang task mismo ay gumagamit ng mga apektadong instruksyon at accumulation mode. Kaya, ang mga nakakaimprentang computing scores ay hindi katumbas ng pagtaas ng frame rate sa laro.
Kahit paano, ang GPU Unlock ay isang nakakaakit na bagong pagsubok para sa mga tagapag-ayos ng RTX 30 series, lalo na para sa mga gumagamit nito sa lokal na AI inference, paggawa ng imahe, at iba pang mga skena na may mataas na computational load. Kasalukuyang nasa eksperimental na yugto ang proyektong ito, ngunit ang kakayahang makakuha ng makabuluhang karagdagang performance mula sa mga umiiral na GPU nang walang permanenteng pagbabago sa hardware ay talagang nakakaakit.
