

ROCm™ Hyperloom — это многоагентная платформа, которая автономно оптимизирует вывод на GPU AMD Instinct™. Она профилирует каждую рабочую нагрузку, ищет оптимизации фреймворков и ядер, проверяет каждый кандидат в режиме end-to-end и сохраняет проверенные результаты в базу знаний рецептов — без необходимости ручной настройки под каждую модель. Она поддерживает генерацию текста, генерацию изображений и пользовательские конвейеры на vLLM, SGLang и xDiT.

Комплект инструментов AMD Data Science включает следующие компоненты: hipDF – библиотека GPU-ускоренных DataFrame, обеспечивающая быстрое и масштабируемое управление, агрегирование и преобразование табличных данных. hipDF позволяет осуществлять высокопроизводительную предварительную обработку, инженерию признаков и ETL-процессы, необходимые для современных конвейеров данных. Он также поддерживает ускорение многих существующих рабочих процессов Pandas с минимальными или без каких-либо изменений кода. hipGRAPH – использует GPU-ускорение для обработки и анализа сложных графовых структур и сетей с высокой скоростью и точностью. hipGRAPH поддерживает разнообразные графовые алгоритмы — такие как центральность, обход, схожесть, выборка и маркировка — и бесшовно интегрируется с DataFrame hipDF в рамках экосистемы AMD Data Science. hipMM – библиотека HIP Memory Manager предоставляет продвинутые средства управления памятью GPU, включая эффективное выделение, пулинг и перемещение данных для поддержки различных библиотек, входящих в состав комплекта инструментов AMD Data Science. hipRAFT – предоставляет базовый уровень переиспользуемых GPU-ускоренных примитивов для науки о данных и машинного обучения, включая кластеризацию, снижение размерности и статистические операции. hipRAFT служит вычислительным фундаментом для приложений более высокого уровня в области науки о данных и ИИ. hipVS – GPU-ускоренная библиотека векторного поиска, содержащая различные высокопроизводительные алгоритмы приближенного и точного поиска ближайших соседей и кластеризации. hipVS бесшовно интегрируется с DataFrame, предоставляемыми через hipDF, чтобы обеспечить поддержку широкого спектра задач науки о данных. dask-hip – библиотека для развертывания и управления рабочими процессами Dask на системах AMD GPU с поддержкой HIP. dask-hip добавляет возможности распределенного выполнения для масштабирования GPU-ускоренных задач науки о данных на одной или нескольких GPU AMD. hip-ucxx – компонент связи для распределенных GPU-рабочих процессов на платформах AMD. hip-ucxx дополняет dask-hip, предоставляя поддержку связи на основе UCXX для сред ROCm, что способствует реализации распределенных и многопроцессорных рабочих процессов науки о данных на системах AMD.



