Dự án mã nguồn mở mở khóa GPU tăng hiệu năng AI của dòng RTX 30 lên tới 60%

icon币界网
Chia sẻ
AI summary iconTóm tắt
Một dự án mã nguồn mở có tên GPU Unlock đang thu hút sự chú ý như những altcoin cần theo dõi để tăng trưởng trên thị trường. Công cụ này tăng hiệu suất AI trên các GPU NVIDIA RTX 30 series lên tới 58,6% trong các thao tác FP16/BF16 và TF32. Nó loại bỏ các giới hạn nhân tạo mà không thay đổi driver hoặc VBIOS. Lợi ích đến từ thông lượng tensor core, không phải băng thông bộ nhớ hay CUDA cores. Kết quả thay đổi tùy theo phần cứng và tải công việc. Khối lượng vị thế mở đối với các tài sản liên quan đến AI cũng đang tăng lên song song với sự phát triển này.
Bijie.com báo cáo:

Các card đồ họa GeForce RTX 30 series của NVIDIA (mã hiệu Ampere) đã ra mắt một thời gian dài, rõ ràng vẫn còn nhiều tiềm năng tính toán chưa được khai thác. Người dùng GitHub Zagitta đã phát triển một dự án mã nguồn mở mới có tên GPU Unlock, có thể gỡ bỏ một số hạn chế hiệu năng do nhà sản xuất đặt ra trên các card đồ họa kiến trúc Ampere. Trong điều kiện tải nhất định, băng thông tính toán của các tensor core có thể tăng gần gấp đôi, mà không cần sửa đổi trình điều khiển của NVIDIA hay ghi đè vĩnh viễn VBIOS của card.

IT之家 nhận thấy, dự án này nhắm vào giới hạn tốc độ phát lệnh: trong các phép toán tensor FP16/BF16 sử dụng tích lũy FP32, tốc độ hoạt động của các card đồ họa Ampere dành cho người dùng tiêu dùng thấp hơn so với card chuyên dụng. Sau khi gỡ bỏ giới hạn này, công cụ có thể khai thác hoàn toàn hiệu năng tính toán bổ sung mà phần cứng card đồ họa đã có sẵn.

Điều thú vị là GPU Unlock được xây dựng dựa trên các nghiên cứu trước đó về card挖矿 GPU của NVIDIA CMP. Nó kết hợp công nghệ mở khóa firmware của dự án CMP với một bộ sơ khởi tạo trước, sử dụng một mô-đun nhân Linux để thực hiện các thao tác trước khi trình điều khiển GPU của NVIDIA được tải. Mô-đun này chỉnh sửa các thanh ghi chọn tốc độ phần cứng tương ứng, thực hiện một lần đặt lại cấp chức năng (FLR), sau đó trình điều khiển gốc có thể khởi tạo card đồ họa bình thường.

Điều này cũng có nghĩa là người dùng không cần phải áp dụng bản vá cho trình điều khiển mỗi khi cập nhật lên phiên bản mới. Hiện tại, nhà phát triển đã ghi chú hỗ trợ các mẫu GPU GA102, GA103, GA104 và GA106, bao phủ phần lớn các mẫu trong loạt RTX 30, tuy nhiên không phải tất cả các card đồ họa đều chắc chắn tương thích hoặc đảm bảo sẽ có cải thiện hiệu năng.

Mức độ cải thiện hiệu suất có thể đáng kể. Dựa trên dữ liệu kiểm tra hiệu năng được công bố trên kho GitHub của dự án, một card RTX 3090 Ti với giới hạn công suất 450W cho kết quả sau trong bài kiểm tra nhân ma trận dày đặc (GEMM) sử dụng tích lũy FP32:

Sự cải thiện này không chỉ xuất hiện trên RTX 3090 Ti. Một người dùng RTX 3080 Ti cho biết, khi giới hạn công suất card đồ họa ở 315W, throughput BF16 tăng từ 71,59 TFLOPS lên 113,98 TFLOPS, hiệu năng TF32 tăng từ 35,65 TFLOPS lên 65,28 TFLOPS. Một báo cáo tương thích cho RTX 3080 10GB cũng cho thấy, với giới hạn công suất gốc 320W của nhà sản xuất, hiệu năng FP16/BF16 tăng từ khoảng 65 TFLOPS lên 110–113 TFLOPS. Những kết quả kiểm tra này cũng đã được thảo luận rộng rãi trên nền tảng X.

Vậy thì hiệu suất trong ứng dụng thực tế như thế nào? May mắn là các thành viên cộng đồng đã bắt đầu kiểm tra tính năng được mở khóa dưới tải trọng AI thực tế, và các kết quả ban đầu khá tích cực.

Một người dùng RTX 3090 Ti trên Reddit đã thực hiện bài kiểm tra hiệu năng trong ComfyUI, cho thấy tốc độ xử lý của MOSS-Image SFT BF16 tăng 58,6%, Qwen-Image 2.1 Turbo BF16 tăng 57,2%, và Z-Image Turbo BF16 tăng 56,1%. Trong khi đó, ở chế độ độ chính xác INT8, mức tăng rất nhỏ, với MOSS-Image SFT INT8 chỉ tăng 0,3%. Người thử nghiệm cũng cho biết, kết quả giải mã hình ảnh tạo ra ở trạng thái mặc định và sau khi mở khóa là hoàn toàn giống nhau.

Việc suy luận của các mô hình ngôn ngữ lớn (LLM) cũng là một kịch bản tiềm năng được hưởng lợi, tuy nhiên mức độ cải thiện phụ thuộc rất lớn vào loại tải công việc. Ví dụ, báo cáo tương thích RTX 3090 cho thấy vLLM tăng 33% về thông lượng xử lý lời nhắc và suy luận, nhưng tốc độ sinh token gần như không thay đổi. Điều này cũng dễ hiểu, vì điểm nghẽn trong giai đoạn giải mã của các mô hình ngôn ngữ lớn thường là băng thông bộ nhớ GPU, chứ không phải thông lượng tính toán nguyên thủy của các nhân tensor.

Một tiến triển đáng chú ý khác là phiên bản thí điểm trên Windows, thay vì sử dụng module nhân Linux trước đây, giờ đây dựa trên phương thức UEFI. Các nhà phát triển đã ghi nhận thành công với RTX 3090, tăng khả năng xử lý tính toán BF16 khoảng 82,5%. Tuy nhiên, phiên bản này vẫn mang tính chất thí điểm, chỉ tương thích với phần cứng cụ thể và chưa phải là phiên bản chính thức trên Windows có thể sử dụng rộng rãi.

Giải pháp này cũng có những hạn chế rõ ràng. GPU Unlock không tăng băng thông bộ nhớ video, không mở khóa thêm nhiều nhân CUDA, và cũng không tự động tăng tốc mọi tải trọng. Ít nhất một phản hồi về RTX 3080 Ti 20GB cho thấy quy trình unlock thành công, nhưng hiệu suất BF16 không cải thiện như mong đợi, cho thấy hiệu quả không mang tính phổ quát.

Về mặt trò chơi, công nghệ DLSS của NVIDIA cũng sử dụng các lõi tensor, nhưng hiện chưa có bằng chứng đáng tin cậy cho thấy việc mở khóa GPU có thể tăng khung hình trong trò chơi hoặc giảm thời gian chạy DLSS. Chỉ khi tác vụ cụ thể sử dụng các lệnh và chế độ tích lũy bị ảnh hưởng thì mới có thể thu được lợi ích. Do đó, những điểm hiệu năng tính toán ấn tượng này không đồng nghĩa với việc khung hình trò chơi sẽ tăng tương ứng.

Dù vậy, GPU Unlock vẫn là một thử nghiệm mới đầy hấp dẫn dành cho những người sở hữu card RTX 30 series, đặc biệt là những người sử dụng card để thực hiện suy luận AI tại chỗ, tạo hình ảnh và các kịch bản yêu cầu tải tính toán cao khác. Dự án hiện vẫn đang ở giai đoạn thí nghiệm, nhưng việc khai thác thêm hiệu năng đáng kể từ card hiện có mà không cần thay đổi phần cứng vĩnh viễn thực sự rất hấp dẫn.

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.