

ROCm™ Hyperloom, AMD Instinct™ GPU'lar üzerinde çıkarımı otomatik olarak optimize eden çok ajanlı bir çatıdır. Her iş yükünü profillendirir, framework ve çekirdek optimizasyonlarını arar, her aday sonundan sonuna kadar doğrular ve kanıtlanmış sonuçları bir tarif bilgi tabanına aktarır — her model için insan müdahalesi gerekmeden. Text üretimi, görüntü üretimi ve özel akışlar üzerinde vLLM, SGLang ve xDiT’i destekler.

AMD Veri Bilimi araç seti aşağıdaki bileşenleri içerir: hipDF – Hızlı ve ölçeklenebilir tablo veri manipülasyonu, birleştirme ve dönüşüm sunan bir GPU hızlandırılmış DataFrame kütüphanesi. hipDF, modern veri boru hatları için gerekli olan yüksek performanslı ön işleme, özellik mühendisliği ve ETL iş akışlarını mümkün kılar. Ayrıca, Pandas iş akışlarının çoğu üzerinde neredeyse hiç kod değişikliği yapmadan hızlandırma desteği sağlar. hipGRAPH – GPU hızlandırmasını kullanarak karmaşık grafik yapılarını ve ağları hızla ve hassas bir şekilde işlemek ve analiz etmek için kullanılır. hipGRAPH, merkeziyet, gezinme, benzerlik, örnekleme ve etiketleme gibi çeşitli grafik algoritmalarını destekler ve AMD Veri Bilimi ekosisteminde hipDF DataFrame’leriyle sorunsuz bir şekilde entegre olur. hipMM – HIP Bellek Yöneticisi kütüphanesi, AMD Veri Bilimi araç setini oluşturan çeşitli kütüphaneleri desteklemek için verimli atama, havuzlama ve veri taşıma gibi gelişmiş GPU bellek yönetimi araçları sağlar. hipRAFT – Kümeleme, boyut indirgeme ve istatistiksel işlemler dahil olmak üzere veri bilimi ve makine öğrenimi için yeniden kullanılabilir GPU hızlandırılmış temel bileşenler sunar. hipRAFT, daha üst düzey veri bilimi ve AI uygulamaları için hesaplama temelini oluşturur. hipVS – Yüksek performanslı yaklaşık ve tam yakın komşu ve kümeleme algoritmaları içeren bir GPU hızlandırılmış vektör arama kütüphanesi. hipVS, hipDF aracılığıyla sunulan DataFrame’lerle sorunsuz bir şekilde entegre olur ve çeşitli veri bilimi iş yüklerini desteklemeyi sağlar. dask-hip – HIP destekli AMD GPU sistemlerinde Dask işçilerini dağıtmak ve yönetmek için bir kütüphane. dask-hip, bir veya daha fazla AMD GPU üzerinde GPU hızlandırılmış veri bilimi iş yüklerini ölçeklendirmek için dağıtık yürütme yetenekleri ekler. hip-ucxx – AMD platformlarında dağıtık GPU iş akışları için bir iletişim bileşeni. hip-ucxx, ROCm ortamları için UCXX tabanlı iletişim desteği sağlayarak AMD sistemlerinde dağıtık ve çoklu GPU veri bilimi iş akışlarını mümkün kılmak üzere dask-hip’i tamamlar.



