El proyecto de código abierto GPU Unlock mejora el rendimiento de IA de la serie RTX 30 hasta en un 60%

icon币界网
Compartir
AI summary iconResumen
Un proyecto de código abierto llamado GPU Unlock está atrayendo atención como una altcoin para vigilar que podría subir en el mercado. La herramienta mejora el rendimiento de IA en las GPU NVIDIA RTX 30 series hasta en un 58,6% en operaciones FP16/BF16 y TF32. Elimina límites artificiales sin modificar los controladores ni el VBIOS. Las ganancias provienen del rendimiento de los núcleos tensor, no del ancho de banda de memoria ni de los núcleos CUDA. Los resultados varían según el hardware y la carga de trabajo. La posición abierta en activos relacionados con IA también está aumentando junto con este desarrollo.
CryptoSlate informa:

Las tarjetas gráficas GeForce RTX 30 series (código Ampere), que han estado en el mercado durante algún tiempo, claramente aún poseen una gran cantidad de potencial de cómputo no aprovechado. El usuario de GitHub Zagitta ha desarrollado un nuevo proyecto de código abierto llamado GPU Unlock, que permite desbloquear ciertas limitaciones de rendimiento impuestas artificialmente en las tarjetas con arquitectura Ampere. Bajo cargas específicas, el rendimiento de cómputo de los núcleos tensor puede casi duplicarse, sin necesidad de modificar los controladores de NVIDIA ni de realizar una flash permanente del VBIOS de la tarjeta gráfica.

IT之家 observa que este proyecto se enfoca específicamente en una limitación de tasa de emisión de instrucciones: en operaciones de tensor FP16/BF16 con acumulación FP32, las tarjetas gráficas Ampere de consumo tienen una velocidad de funcionamiento más baja en comparación con las tarjetas profesionales. Tras eliminar esta limitación, la herramienta puede liberar el rendimiento de cálculo adicional que ya posee el hardware de la tarjeta gráfica.

Interesantemente, GPU Unlock se basa en investigaciones previas sobre las tarjetas gráficas de minería de criptomonedas CMP de NVIDIA. Combina la técnica de desbloqueo de firmware del proyecto CMP con un conjunto de esquemas de inicialización anticipada, utilizando un módulo del kernel de Linux para ejecutar operaciones antes de que se cargue el controlador de tarjetas gráficas de NVIDIA. Este módulo modifica los registros de selección de velocidad correspondientes, realiza un reinicio a nivel de función (FLR) y luego permite que el controlador original inicialice correctamente la tarjeta gráfica.

Esto también significa que los usuarios no necesitarán aplicar parches al actualizar a nuevas versiones del controlador. Actualmente, los desarrolladores indican compatibilidad con las GPU de los modelos GA102, GA103, GA104 y GA106, que cubren la mayoría de los modelos de la serie RTX 30, aunque no se garantiza la compatibilidad de todas las tarjetas gráficas ni se asegura un aumento de rendimiento en todas ellas.

El aumento de rendimiento puede ser bastante significativo. Según los datos de prueba de referencia publicados en el repositorio GitHub del proyecto, una RTX 3090 Ti con un límite de consumo de energía de 450 W obtuvo los siguientes resultados en la prueba de multiplicación de matrices densas (GEMM) con acumulación FP32:

Este tipo de mejora no solo se observa en la RTX 3090 Ti. Un usuario de la RTX 3080 Ti reportó que, con un límite de potencia de 315 W, el rendimiento en BF16 aumentó de 71,59 TFLOPS a 113,98 TFLOPS, y el rendimiento en TF32 pasó de 35,65 TFLOPS a 65,28 TFLOPS. Además, un informe de compatibilidad para la RTX 3080 10 GB muestra que, con el límite de potencia original de 320 W de la tarjeta, el rendimiento en FP16/BF16 aumentó de aproximadamente 65 TFLOPS a 110–113 TFLOPS. Estos resultados de prueba también han sido ampliamente discutidos en la plataforma X.

¿Cómo se desempeña en aplicaciones reales? Afortunadamente, los usuarios de la comunidad ya han comenzado a probar esta función desbloqueada bajo cargas reales de IA, y los resultados iniciales son bastante optimistas.

Un usuario de RTX 3090 Ti en Reddit realizó una prueba de rendimiento en ComfyUI: el rendimiento de MOSS-Image SFT BF16 aumentó un 58,6%, el de Qwen-Image 2.1 Turbo BF16 un 57,2% y el de Z-Image Turbo BF16 un 56,1%. En cambio, en el modo de precisión INT8, el aumento fue mínimo, con solo un 0,3% para MOSS-Image SFT INT8. El probador también indicó que los resultados de decodificación de las imágenes generadas en estado predeterminado y desbloqueado son completamente idénticos.

La inferencia de modelos de lenguaje grandes (LLM) también es un escenario potencialmente beneficiado, aunque el grado de mejora depende en gran medida del tipo de carga. Por ejemplo, un informe de compatibilidad con RTX 3090 muestra que vLLM mejora en un 33% el procesamiento de prompts y el rendimiento de inferencia, pero la velocidad de generación de tokens prácticamente no cambia. Esto es fácil de entender, ya que el cuello de botella en la etapa de decodificación de los modelos de lenguaje grandes suele ser el ancho de banda de la memoria, y no el rendimiento computacional bruto de los núcleos tensoriales.

Otro avance destacable es la implementación experimental de Windows, que ya no utiliza el módulo del kernel de Linux, sino un enfoque basado en UEFI. Los desarrolladores documentaron un caso exitoso con la RTX 3090, con un aumento del aproximadamente 82,5% en el rendimiento de cálculo BF16. Sin embargo, esta versión sigue siendo experimental, solo es compatible con hardware específico y no es una versión oficial de Windows generalmente disponible.

Este方案 también presenta limitaciones evidentes. GPU Unlock no aumenta el ancho de banda de la memoria VRAM, no desbloquea más núcleos CUDA ni acelera automáticamente todas las cargas de trabajo. Al menos un informe de un RTX 3080 Ti de 20 GB muestra que, aunque el proceso de desbloqueo se completó con éxito, no se observó el aumento esperado en el rendimiento BF16, lo que indica que los efectos no son universales.

En cuanto a los juegos, la tecnología DLSS de NVIDIA también utiliza núcleos tensor, pero actualmente no hay evidencia confiable que demuestre que desbloquear la GPU pueda aumentar los FPS en juegos ni reducir el tiempo de ejecución de DLSS. Solo se obtendría beneficio si la tarea en cuestión invoca las instrucciones y modos de acumulación afectados. Por lo tanto, estos impresionantes resultados en pruebas de cálculo no equivalen a un aumento proporcional en los FPS de los juegos.

Aun así, GPU Unlock sigue siendo un nuevo intento muy atractivo para los propietarios de tarjetas gráficas de la serie RTX 30, especialmente para aquellos que utilizan sus tarjetas para inferencia de IA local, generación de imágenes y otros escenarios con alta carga de cálculo. El proyecto aún se encuentra en fase experimental, pero la posibilidad de extraer un rendimiento adicional significativo de las tarjetas gráficas actuales sin realizar modificaciones permanentes en el hardware es realmente atractiva.

Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.