Prismax зменшив використання VRAM для інференсу π0.5 з ~22 ГБ до лише 11,2 ГБ, зробивши його сумісним з GPU з 16 ГБ, такими як RTX 5080 і 5070 Ti. Як цього досягнуто? > Видалено непотрібну ініціалізацію моделі у FP32. > Запобіжено використанню PyTorch моделей VRAM разом із скомпільованими TensorRT двигунами. Результат: майже на 10 ГБ менше використання VRAM без втрати якості моделі. Це робить високопродуктивний інференс π0.5 для робототехніки більш доступним на настільних і портативних пристроях. @PrismaXai
JasonПоділитися
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.