

ROCm™ Hyperloom — це багатоагентна платформа, яка автономно оптимізує висновки на GPU AMD Instinct™. Вона профілює кожен навантаження, шукає оптимізації фреймворку та ядра, перевіряє кожен кандидат повністю від початку до кінця та зберігає підтверджені результати в базі знань рецептів — без персональної настройки для кожної моделі. Підтримує генерацію тексту, генерацію зображень та користувацькі конвеєри на vLLM, SGLang та xDiT.

Комплект інструментів AMD Data Science включає наступні компоненти: hipDF – бібліотека GPU-прискорених DataFrame, яка забезпечує швидке та масштабоване табличне маніпулювання, агрегацію та перетворення даних. hipDF дозволяє виконувати високопродуктивну підготовку даних, інженерію ознак та ETL-роботи, необхідні для сучасних конвеєрів даних. Він також підтримує прискорення багатьох існуючих робочих процесів Pandas з мінімальними або взагалі без змін у коді. hipGRAPH – використовує GPU-прискорення для обробки та аналізу складних графових структур і мереж з високою швидкістю та точністю. hipGRAPH підтримує різноманітні графові алгоритми — такі як центральність, обхід, подібність, вибірка та міткування — і безперебійно інтегрується з DataFrame hipDF у всій екосистемі AMD Data Science. hipMM – бібліотека HIP Memory Manager надає просунуті засоби керування пам’яттю GPU, такі як ефективне виділення, пулинг та переміщення даних, щоб підтримувати різні бібліотеки, що входять до складу комплекту інструментів AMD Data Science. hipRAFT – надає фундаментальний рівень повторно використовуваних GPU-прискорених примітивів для науки про дані та машинного навчання, включаючи кластеризацію, зменшення розмірності та статистичні операції. hipRAFT слугує обчислювальною основою для застосунків вищого рівня з науки про дані та ШІ. hipVS – GPU-прискорена бібліотека векторного пошуку, що містить різноманітні високопродуктивні наближені та точні алгоритми найближчих сусідів та кластеризації. hipVS безперебійно інтегрується з DataFrame, що надаються через hipDF, щоб забезпечити підтримку широкого спектру завдань з науки про дані. dask-hip – бібліотека для розгортання та управління Dask-воркерами на системах AMD GPU з підтримкою HIP. dask-hip додає можливості розподіленого виконання для масштабування GPU-прискорених завдань з науки про дані на одному або кількох GPU AMD. hip-ucxx – компонент зв’язку для розподілених GPU-робочих процесів на платформах AMD. hip-ucxx доповнює dask-hip, надаючи підтримку комунікації на основі UCXX для середовищ ROCm, що допомагає забезпечити розподілені та багато-GPU завдання з науки про дані на системах AMD.



