Prismax đã giảm mức sử dụng VRAM cho suy luận π0.5 từ khoảng 22 GB xuống chỉ còn 11,2 GB, giúp nó trở nên khả thi trên các GPU 16 GB như RTX 5080 và 5070 Ti. Điều này được thực hiện như thế nào? > Loại bỏ việc khởi tạo mô hình FP32 không cần thiết. > Ngăn các mô hình PyTorch chiếm dụng VRAM cùng với các engine TensorRT đã biên dịch. Kết quả: giảm gần 10 GB VRAM mà không làm giảm chất lượng mô hình. Điều này giúp suy luận robot π0.5 hiệu năng cao trở nên dễ tiếp cận hơn trên phần cứng máy tính để bàn và laptop. @PrismaXai