ME Haberleri'ne göre, 22 Nisan (UTC+8) tarihinde vLLM projesi, topluluk tarafından bakılan yapılandırma kütüphane sitesi vLLM Recipes'in büyük bir yeniden tasarımını tamamladığını duyurdu. Yeni site, kullanıcıların büyük dil modellerini hızlı bir şekilde dağıtmasını ve çalıştırmasını amaçlıyor; temel yeni özellik, "belirli bir donanımda belirli bir modeli hangi görev için çalıştırmalıyım?" gibi sorulara tıklanabilir cevaplar sunuyor. Site, HuggingFace benzeri bir URL stili kullanıyor; kullanıcılar, model URL'sindeki alan adı kısmını değiştirerek doğrudan ilgili optimize edilmiş çözüm sayfalarına yönlendiriliyor. Platform, Qwen3.6-35B-A3B ve Kimi-K2.6 gibi çeşitli modeller ile NVIDIA H100/H200/B200/B300, AMD MI300X/MI325X/MI355X gibi çeşitli GPU donanımları için optimize edilmiş `vllm serve` komut satırı talimatları sunuyor. Kullanıcılar, Arcee AI, Baidu, ByteDance, DeepSeek, Google, Meta ve Microsoft gibi sağlayıcılar aracılığıyla çözümleri tarayabilir. Platform, vLLM ile tam uyumludur ve resmi belgelere, GitHub deposuna ve tam model donanım uyumluluk listesine bağlantılar sağlar. (Kaynak: InFoQ)
vLLM Tarifleri Web Sitesi, Model ve Donanım Optimizasyonu Çözümleri Sunmak İçin Yeniden Tasarlandı
KuCoinFlashPaylaş
Özet
On-chain haberi 22 Nisan (UTC+8)’de vLLM projesi, vLLM Recipes platformunun büyük bir yeniden tasarımı duyurdu. Güncelleme, Qwen3.6-35B-A3B ve Kimi-K2.6 gibi modellerin NVIDIA H100/H200/B200/B300 ve AMD MI300X/MI325X/MI355X donanımlarında dağıtımı için tıklanabilir çözümler tanıttı. Proje duyurusu, optimize edilmiş `vllm serve` komutlarını ve Arcee AI, Baidu ve Meta gibi sağlayıcılarla uyumluluğu vurguladı. Platform, belgelerle, GitHub ile ve tam uyumluluk listesiyle bağlantılıdır.
Kaynak:Orijinalini göster
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir.
Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.