ME সংবাদ, ২২ এপ্রিল (UTC+8), vLLM প্রকল্প ঘোষণা করেছে যে এর সম্প্রদায়-সংরক্ষিত কনফিগারেশন সংগ্রহস্থল vLLM Recipes ওয়েবসাইটটি বড় পুনর্ডিজাইন করা হয়েছে। নতুন সংস্করণটি ব্যবহারকারীদের বড় ভাষা মডেলগুলি দ্রুত ডিপ্লয় এবং চালানোর জন্য ডিজাইন করা হয়েছে, যার মূল নতুন ফিচারটি হল “নির্দিষ্ট হার্ডওয়্যারে নির্দিষ্ট মডেলটি কীভাবে চালানো যায় যাতে নির্দিষ্ট কাজটি সম্পন্ন হয়” এই ধরনের প্রশ্নগুলির জন্য ক্লিকযোগ্য উত্তর প্রদান। ওয়েবসাইটটি HuggingFace-এর মতো URL স্টাইল ব্যবহার করে, যাতে ব্যবহারকারীরা মডেল URL-এর ডোমেইন অংশটি প্রতিস্থাপন করে সংশ্লিষ্ট অপ্টিমাইজড সমাধানের পেজে সরাসরি যেতে পারেন। এই প্ল্যাটফর্মটি Qwen3.6-35B-A3B, Kimi-K2.6-এর মতো বিভিন্ন মডেল, এবং NVIDIA H100/H200/B200/B300, AMD MI300X/MI325X/MI355X-এর মতো বিভিন্ন GPU হার্ডওয়্যারের জন্য `vllm serve` কমান্ড-লাইন নির্দেশনা প্রদান করে। ব্যবহারকারীরা Arcee AI, Baidu, ByteDance, DeepSeek, Google, Meta, Microsoft-এর মতো সরবরাহকারীদের ভিত্তিতে সমাধানগুলি ব্রাউজ করতে পারেন। এই প্ল্যাটফর্মটি vLLM-এর সঙ্গে 100%兼容,এবং অফিসিয়াল ডকুমেন্টেশন, GitHub রিপোজিটরি,এবংপূর্ণমডেলহার্ডওয়্যারসঙগতিসূচিরলিঙ্কপ্রদানকরে।(উৎস: InFoQ)
vLLM রেসিপি ওয়েবসাইটটি মডেল এবং হার্ডওয়্যার অপ্টিমাইজেশন সমাধান প্রদানের জন্য পুনর্ডিজাইন করা হয়েছে
KuCoinFlashশেয়ার
সারাংশ
অন-চেইন সংবাদটি আপডেট করা হয়েছে ২২ এপ্রিল (UTC+৮), যখন vLLM প্রকল্পটি তার vLLM Recipes প্ল্যাটফর্মের একটি বড় পুনর্ডিজাইনের ঘোষণা করে। এই আপডেটটি Qwen3.6-35B-A3B এবং Kimi-K2.6 মডেলগুলি নিবেদনের জন্য ক্লিক করা যায় এমন সমাধানগুলি চালু করে, যেমন NVIDIA H100/H200/B200/B300 এবং AMD MI300X/MI325X/MI355X হার্ডওয়্যারে। প্রকল্পের ঘোষণায় অপ্টিমাইজড `vllm serve` কমান্ডগুলি এবং Arcee AI, Baidu এবং Meta-এর মতো প্রদানকারীদের সাথে সামঞ্জস্যতা উল্লেখ করা হয়েছে। প্ল্যাটফর্মটি ডকুমেন্টেশন, GitHub এবং একটি সম্পূর্ণ সামঞ্জস্যতা তালিকার সাথে লিঙ্কযুক্ত।
উৎস:আসল দেখান
দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না।
ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।