source avatarJason

Compartilhar

A Prismax reduziu o uso de VRAM na inferência π0.5 de ~22 GB para apenas 11,2 GB, tornando-o acessível para GPUs de 16 GB, como RTX 5080 e 5070 Ti. Como foi alcançado? > Eliminação da inicialização desnecessária do modelo em FP32. > Impediu que modelos PyTorch ocupassem VRAM ao lado dos motores TensorRT compilados. Resultado: quase 10 GB a menos de uso de VRAM sem sacrificar o modelo. Isso torna a inferência de robótica π0.5 de alto desempenho mais acessível em hardware de desktop e laptop. @PrismaXai

No.0 picture
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.