Карточки GeForce RTX 30 серии (архитектура Ampere), которые уже давно доступны на рынке, очевидно, обладают значительным нереализованным вычислительным потенциалом. Пользователь GitHub Zagitta разработал новый открытый проект под названием GPU Unlock, позволяющий снять некоторые искусственные ограничения производительности на картах с архитектурой Ampere. При определённой нагрузке пропускная способность тензорных ядер может почти удвоиться, причём не требует изменения драйверов NVIDIA и не требует постоянной прошивки VBIOS видеокарты.

IT之家注意到, этот проект специально направлен на ограничение скорости отправки команд: при операциях с тензорными ядрами FP16/BF16 с накоплением в FP32 потребительские видеокарты Ampere работают медленнее, чем профессиональные. После снятия этого ограничения инструмент может раскрыть дополнительные вычислительные возможности, заложенные в аппаратной части видеокарты.

Интересно, что GPU Unlock основан на предыдущих исследованиях, связанных с картами для майнинга криптовалют NVIDIA CMP. Он объединяет технологию разблокировки прошивки проекта CMP и набор предварительной инициализации, используя модуль ядра Linux для выполнения операций до загрузки драйвера NVIDIA. Этот модуль изменяет соответствующие регистры выбора скорости оборудования, выполняет функциональный сброс (FLR), после чего оригинальный драйвер может корректно инициализировать видеокарту.
Это также означает, что пользователям не нужно применять патчи к драйверам при каждом обновлении до новой версии. Разработчики текущим образом поддерживают GPU моделей GA102, GA103, GA104 и GA106, что охватывает большинство моделей серии RTX 30, однако совместимость не гарантируется для всех видеокарт, и повышение производительности также не обеспечивается для всех.
Повышение производительности может быть весьма значительным. Согласно данным тестирования, опубликованным в репозитории проекта на GitHub, RTX 3090 Ti с ограничением потребляемой мощности 450 Вт показала следующие результаты при тестировании плотного матричного умножения (GEMM) с использованием FP32-накопления:
Такие улучшения наблюдаются не только на RTX 3090 Ti. Пользователь RTX 3080 Ti сообщил, что при ограничении мощности видеокарты на уровне 315 Вт пропускная способность BF16 выросла с 71,59 TFLOPS до 113,98 TFLOPS, а производительность TF32 — с 35,65 TFLOPS до 65,28 TFLOPS. Также в отчете о совместимости RTX 3080 10 ГБ указано, что при заводском ограничении мощности 320 Вт производительность FP16/BF16 выросла с примерно 65 TFLOPS до 110–113 TFLOPS. Эти результаты тестов широко обсуждаются на платформе X.
Как она проявляет себя в реальных условиях? Хорошо то, что пользователи сообщества уже начали тестировать эту разблокированную функцию под реальными AI-нагрузками, и предварительные результаты довольно оптимистичны.
Пользователь RTX 3090 Ti на Reddit провел тест производительности в ComfyUI: пропускная способность MOSS-Image SFT BF16 увеличилась на 58,6%, Qwen-Image 2.1 Turbo BF16 — на 57,2%, Z-Image Turbo BF16 — на 56,1%. При этом в режиме точности INT8 повышение было незначительным: MOSS-Image SFT INT8 показал прирост всего 0,3%. Тестировщик также отметил, что декодированные результаты изображений при стандартных настройках и после разблокировки полностью совпадают.
Развертывание больших языковых моделей (LLM) также является потенциально выгодной сценарием, однако степень улучшения сильно зависит от типа нагрузки. Например, согласно отчету о совместимости с RTX 3090, обработка промптов и пропускная способность вывода vLLM увеличились на 33%, однако скорость генерации токенов практически не изменилась. Это вполне логично, поскольку узким местом в процессе декодирования больших языковых моделей часто является пропускная способность видеопамяти, а не первоначальная вычислительная пропускная способность тензорных ядер.
Еще одним важным достижением является экспериментальная реализация для Windows, которая больше не использует прежний модуль ядра Linux, а основана на подходе UEFI. Разработчики зафиксировали успешный пример с RTX 3090, где пропускная способность вычислений BF16 увеличилась примерно на 82,5%. Однако эта версия по-прежнему является экспериментальной, совместима только с определенным оборудованием и не является универсальной официальной версией для Windows.
Этот метод также имеет явные ограничения. Разблокировка GPU не увеличивает пропускную способность видеопамяти, не разблокирует дополнительные CUDA-ядра и не ускоряет автоматически все нагрузки. По крайней мере, один отзыв по RTX 3080 Ti 20 ГБ показал, что процесс разблокировки прошел успешно, но производительность BF16 не показала ожидаемого улучшения, что свидетельствует о том, что эффект не универсален.
В играх технология DLSS от NVIDIA также использует тензорные ядра, однако на данный момент нет надежных доказательств, что разблокировка GPU может повысить частоту кадров в играх или сократить время выполнения DLSS. Выгода возможна только тогда, когда задача непосредственно использует затронутые инструкции и режимы накопления. Следовательно, впечатляющие результаты вычислительных тестов не означают автоматического роста частоты кадров в играх.
Несмотря на это, GPU Unlock остается привлекательной новой возможностью для владельцев видеокарт серии RTX 30, особенно для тех, кто использует свои карты для локального AI-вывода, генерации изображений и других сценариев с высокой вычислительной нагрузкой. Этот проект пока находится на экспериментальной стадии, но возможность извлечь значительный дополнительный производительный потенциал из существующих видеокарт без постоянных изменений оборудования действительно привлекательна.
