Prismax a réduit l'utilisation de la VRAM pour l'inférence π0.5 de ~22 Go à seulement 11,2 Go, la rendant accessible aux GPU 16 Go comme les RTX 5080 et 5070 Ti. Comment cela a-t-il été réalisé ? > Élimination de l'initialisation inutile du modèle en FP32. > Empêché les modèles PyTorch d'occuper la VRAM en parallèle avec les moteurs TensorRT compilés. Résultat : près de 10 Go de VRAM en moins sans sacrifier le modèle. Cela rend l'inférence robotics π0.5 à haute performance plus accessible sur les matériels de bureau et portables. @PrismaXai
JasonPartager
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.