Les cartes graphiques GeForce RTX 30 series (codename Ampere), déjà sur le marché depuis un certain temps, possèdent visiblement encore de nombreuses capacités de calcul non exploitées. L'utilisateur GitHub Zagitta a développé un nouveau projet open source appelé GPU Unlock, qui permet de désactiver certaines limitations de performance artificielles sur les cartes graphiques basées sur l'architecture Ampere. Sous des charges spécifiques, le débit de calcul des cœurs tensor peut presque doubler, sans nécessiter de modification des pilotes NVIDIA ni de flashage permanent du VBIOS de la carte graphique.

IT之家 note que ce projet cible spécifiquement une limitation du débit d'instructions : lors d'opérations sur des tenseurs FP16/BF16 avec accumulation FP32, les cartes graphiques Ampere grand public fonctionnent à un débit inférieur à celui des cartes professionnelles. Une fois cette limitation levée, l'outil peut libérer la performance de calcul supplémentaire déjà présente dans le matériel de la carte graphique.

Il est intéressant de noter que GPU Unlock s'appuie sur des recherches antérieures portant sur les cartes graphiques CMP d'NVIDIA dédiées au minage de cryptomonnaies. Il combine la technologie de déblocage du firmware du projet CMP et un ensemble de procédures d'initialisation anticipée, en utilisant un module noyau Linux qui exécute des opérations avant le chargement du pilote NVIDIA. Ce module modifie les registres de sélection de la vitesse matérielle, effectue une réinitialisation au niveau fonctionnel (FLR), permettant ensuite au pilote d'origine d'initialiser normalement la carte graphique.
Cela signifie également que les utilisateurs n'auront plus besoin d'appliquer de correctifs aux pilotes à chaque mise à jour. Les développeurs indiquent actuellement la prise en charge des GPU modèles GA102, GA103, GA104 et GA106, couvrant la plupart des modèles de la série RTX 30, mais la compatibilité n'est pas garantie pour toutes les cartes graphiques, ni ne garantit une amélioration des performances.
Les améliorations de performance peuvent être considérables. Selon les données de benchmark publiées sur le dépôt GitHub du projet, une RTX 3090 Ti avec une limite de consommation fixée à 450 W a obtenu les résultats suivants lors du test de multiplication matricielle dense (GEMM) avec accumulation FP32 :
Ces améliorations ne se limitent pas à la RTX 3090 Ti. Un utilisateur de la RTX 3080 Ti a rapporté qu'avec une limite de puissance de 315 W, le débit BF16 est passé de 71,59 TFLOPS à 113,98 TFLOPS, et la performance TF32 de 35,65 TFLOPS à 65,28 TFLOPS. Un rapport de compatibilité pour la RTX 3080 10 Go indique également que, sous la limite de puissance d'origine de 320 W, les performances FP16/BF16 sont passées d'environ 65 TFLOPS à 110–113 TFLOPS. Ces résultats de tests ont été largement discutés sur la plateforme X.
Comment cela se comporte-t-il dans les applications réelles ? Heureusement, les utilisateurs de la communauté ont déjà commencé à tester cette fonction débloquée sous des charges AI réelles, et les résultats initiaux sont prometteurs.
Un utilisateur de RTX 3090 Ti sur Reddit a effectué des tests de performance dans ComfyUI : le débit de MOSS-Image SFT BF16 a augmenté de 58,6 %, celui de Qwen-Image 2.1 Turbo BF16 de 57,2 %, et celui de Z-Image Turbo BF16 de 56,1 %. En revanche, le gain en mode précision INT8 est très faible, avec seulement une augmentation de 0,3 % pour MOSS-Image SFT INT8. Le testeur a également indiqué que les résultats de décodage des images générées en état par défaut et après déblocage sont parfaitement identiques.
Le raisonnement des grands modèles de langage (LLM) est également un scénario potentiellement bénéfique, mais l'amélioration dépend fortement du type de charge. Par exemple, un rapport de compatibilité pour RTX 3090 indique une augmentation de 33 % du débit de traitement des invites et d'inférence avec vLLM, mais la vitesse de génération de jetons reste essentiellement inchangée. Cela est facile à comprendre, car le goulot d'étranglement lors de la décodage des grands modèles de langage est souvent la bande passante de la mémoire vidéo, et non le débit de calcul brut des cœurs tensoriels.
Un autre développement notable est la version expérimentale pour Windows, qui ne repose plus sur le module noyau Linux précédent, mais sur une approche UEFI. Les développeurs ont documenté un cas réussi avec la RTX 3090, affichant une augmentation d'environ 82,5 % du débit de calcul BF16. Toutefois, cette version reste expérimentale, compatible uniquement avec certains matériels, et n'est pas une version officielle Windows généralement disponible.
Cette solution présente également des limites évidentes. L'activation GPU n'augmente pas la bande passante de la mémoire vidéo, ne débloque pas davantage de cœurs CUDA, et ne permet pas d'accélérer automatiquement toutes les charges. Au moins un retour sur une RTX 3080 Ti 20 Go indique que le processus de déblocage a été exécuté avec succès, mais qu'aucune amélioration attendue des performances BF16 n'a été observée, ce qui montre que les effets ne sont pas universels.
En ce qui concerne les jeux, la technologie DLSS d'NVIDIA utilise également les cœurs Tensor, mais il n'existe pour l'instant aucune preuve fiable indiquant que le déblocage du GPU peut augmenter le taux de frames ou réduire le temps d'exécution de DLSS. Un bénéfice n'est possible que si la tâche elle-même utilise ces instructions et ces modes d'accumulation affectés. Ainsi, ces performances de calcul impressionnantes ne se traduisent pas nécessairement par une augmentation correspondante du taux de frames dans les jeux.
Malgré tout, GPU Unlock reste une nouvelle initiative très attrayante pour les détenteurs de cartes graphiques de la série RTX 30, en particulier pour ceux qui utilisent leurs cartes pour l'inférence locale d'IA, la génération d'images et d'autres scénarios à forte charge de calcul. Ce projet est actuellement en phase expérimentale, mais il est très attrayant de pouvoir extraire des performances supplémentaires significatives de vos cartes graphiques existantes sans modifier durablement le matériel.
