Selon les nouvelles de ME, le 22 avril (UTC+8), le projet vLLM a annoncé que son dépôt de configurations maintenu par la communauté, vLLM Recipes, a été entièrement repensé. Le nouveau site vise à aider les utilisateurs à déployer et exécuter rapidement des modèles de langage de grande taille, avec une fonctionnalité clé ajoutée : des réponses cliquables pour des questions du type « Comment exécuter un modèle spécifique sur un matériel spécifique pour accomplir une tâche précise ? ». Le site adopte un style d'URL similaire à celui de HuggingFace, permettant aux utilisateurs de passer directement à la page de solution optimisée en remplaçant le domaine dans l'URL du modèle. La plateforme fournit des commandes `vllm serve` optimisées pour divers modèles tels que Qwen3.6-35B-A3B et Kimi-K2.6, ainsi que pour plusieurs GPU, notamment NVIDIA H100/H200/B200/B300 et AMD MI300X/MI325X/MI355X. Les utilisateurs peuvent parcourir les solutions par fournisseurs tels qu'Arcee AI, Baidu, ByteDance, DeepSeek, Google, Meta et Microsoft. La plateforme est entièrement compatible avec vLLM et propose des liens vers la documentation officielle, le dépôt GitHub et la liste complète de compatibilité matériel-modèle. (Source : InFoQ)
Le site web vLLM Recipes a été repensé pour offrir des solutions d'optimisation de modèles et de matériel
KuCoinFlashPartager
Résumé
Les nouvelles sur la chaîne ont été publiées le 22 avril (UTC+8) lorsque le projet vLLM a annoncé une refonte majeure de sa plateforme vLLM Recipes. Cette mise à jour introduit des solutions cliquables pour déployer des modèles tels que Qwen3.6-35B-A3B et Kimi-K2.6 sur du matériel comme les NVIDIA H100/H200/B200/B300 et les AMD MI300X/MI325X/MI355X. L'annonce du projet met en avant des commandes `vllm serve` optimisées et la compatibilité avec des fournisseurs tels qu'Arcee AI, Baidu et Meta. La plateforme renvoie vers la documentation, GitHub et une liste complète de compatibilité.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.