オープンソースプロジェクトのGPUアンロックにより、RTX 30シリーズのAIパフォーマンスが最大60%向上

icon币界网
共有
AI summary icon概要
GPU Unlockというオープンソースプロジェクトが、市場で注目されるアルトコインとして注目を集めています。このツールは、NVIDIA RTX 30シリーズGPUのFP16/BF16およびTF32演算におけるAIパフォーマンスを最大58.6%向上させます。ドライバーやVBIOSを変更することなく、人工的な制限を解除します。この性能向上は、メモリ帯域幅やCUDAコアではなく、テンソルコアのスループットによるものです。結果はハードウェアやワークロードによって異なります。この開発に伴い、AI関連資産のオープンインターレストも増加しています。
CoinMarketCapが報道:

NVIDIAはすでに上市しているGeForce RTX 30シリーズ(アーキテクチャ名:Ampere)GPUには、まだ多くの計算能力が未解放のまま残されている。GitHubのユーザーZagittaは、AmpereアーキテクチャGPUに設定された一部の人為的な性能制限を解除するためのオープンソースプロジェクト「GPU Unlock」を開発した。特定の負荷条件下では、テンソルコアの計算スループットがほぼ2倍に向上し、NVIDIAドライバーの変更やGPUのVBIOSへの永続的な書き換えは不要である。

IT之家は、このプロジェクトが命令発行レートの制限に焦点を当てていることに注目した。FP32累積を使用するFP16/BF16テンソルコア演算において、コンシューマー向け Ampere グラフィックカードはプロフェッショナルカードに比べて実行速度が低い。この制限を解除することで、ツールはグラフィックカードのハードウェアが本来備える追加の計算性能を引き出せる。

興味深いことに、GPU Unlock は、以前に NVIDIA CMP クリプトマイニング用 GPU に関する研究を基盤としています。これは、CMP プロジェクトのファームウェアアンロック技術と事前初期化スクリプトを組み合わせ、Linux カーネルモジュールを使用して、NVIDIA GPU ドライバが読み込まれる前に操作を実行します。このモジュールは対応するハードウェア速度選択レジスタを変更し、機能レベルリセット(FLR)を実行した後、元のドライバが GPU を正常に初期化できるようにします。

これにより、ユーザーはドライバーの新バージョンを更新するたびに、ドライバーにパッチを適用する必要がなくなります。開発者は現在、GA102、GA103、GA104、GA106モデルのGPUをサポート対象としていますが、これはRTX 30シリーズの大部分のモデルをカバーしています。ただし、すべてのグラフィックカードが互換性を保証されるわけではなく、すべてのカードでパフォーマンス向上が得られるとは限りません。

性能の向上は非常に顕著です。プロジェクトのGitHubリポジトリで公開されたベンチマークデータによると、電力制限を450Wに設定したRTX 3090 Tiで、FP32累積を用いた密行列乗算(GEMM)テストでは以下の結果が得られました:

このような性能向上はRTX 3090 Tiに限られません。RTX 3080 Tiのユーザーは、GPUの電力制限を315Wに設定した状態で、BF16スループットが71.59 TFLOPSから113.98 TFLOPSへ、TF32性能が35.65 TFLOPSから65.28 TFLOPSへ向上したと報告しています。また、RTX 3080 10GBの互換性レポートでは、GPUのメーカー指定電力上限320W条件下で、FP16/BF16性能が約65 TFLOPSから110–113 TFLOPSへ向上したことが示されています。これらのテスト結果はXプラットフォームでも広く議論されています。

実際のアプリケーションでのパフォーマンスはどのようにでしょうか?コミュニティのユーザーが実際にAI負荷でこのアンロック機能をテストし始め、初期の結果は比較的楽観的です。

Reddit で RTX 3090 Ti を使用しているユーザーが ComfyUI でベンチマークテストを実施したところ、MOSS-Image SFT BF16 はスループットが 58.6% 向上、Qwen-Image 2.1 Turbo BF16 は 57.2% 向上、Z-Image Turbo BF16 は 56.1% 向上した。一方、INT8 精度モードでは向上幅が非常に小さく、MOSS-Image SFT INT8 はわずか 0.3% の向上にとどまった。テスト実施者は、デフォルト状態とロック解除後の生成画像のデコード結果は完全に一致すると述べている。

大規模言語モデル(LLM)の推論も潜在的な恩恵を受けられるシナリオですが、その効果は負荷の種類に大きく依存します。たとえば、RTX 3090の互換性レポートによると、vLLMではプロンプト処理と推論スループットが33%向上しましたが、トークン生成速度はほぼ変化ありません。これは、大規模言語モデルのデコード段階のボトルネックがテンソルコアの原始的な計算スループットではなく、メモリ帯域幅であるため、理解しやすいです。

もう一つ注目すべき進展は、実験版Windows実装であり、従来のLinuxカーネルモジュールではなくUEFIベースのアプローチを採用しています。開発者はRTX 3090での成功事例を記録しており、BF16計算スループットが約82.5%向上しました。ただし、このバージョンはまだ実験段階であり、特定のハードウェアにのみ対応しており、汎用的なWindows公式版ではありません。

この手法にも明確な制限があります。GPUアンロックはメモリ帯域幅を向上させず、より多くのCUDAコアをアンロックすることもできず、すべての負荷を自動的に高速化することもできません。RTX 3080 Ti 20GBのフィードバックの少なくとも1件では、アンロックプロセスは成功しましたが、BF16パフォーマンスに期待された向上が見られず、効果が普遍的ではないことを示しています。

ゲームにおいて、NVIDIAのDLSS技術もテンソルコアを活用していますが、現在のところ、GPUアンロックがゲームのフレームレートを向上させたり、DLSSの実行時間を短縮したりするという確実な証拠は存在しません。得られるメリットは、対象となる命令と累積モードが実際に使用されるタスクに限られます。したがって、これらの目立つ計算スコアは、ゲームのフレームレートが同時に上昇することを意味しません。

それでも、RTX 30シリーズGPUを所有するユーザー、特にローカルなAI推論、画像生成、その他の高負荷計算シナリオでGPUを使用しているユーザーにとって、GPU Unlockは魅力的な新しい試みです。このプロジェクトは現在実験段階にありますが、ハードウェアを永久的に変更することなく、既存のGPUから顕著な追加パフォーマンスを引き出すことができるのは非常に魅力的です。

免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。 デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。