เว็บไซต์ vLLM Recipes ได้รับการออกแบบใหม่เพื่อเสนอโซลูชันการปรับแต่งโมเดลและฮาร์ดแวร์

iconKuCoinFlash
แชร์
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconสรุป

expand icon
ข่าวบนโซ่ได้เปิดเผยเมื่อวันที่ 22 เมษายน (UTC+8) เมื่อโครงการ vLLM ประกาศการออกแบบใหม่อย่างใหญ่หลวงสำหรับแพลตฟอร์ม vLLM Recipes การอัปเดตนี้นำเสนอโซลูชันที่คลิกได้สำหรับการปรับใช้โมเดลเช่น Qwen3.6-35B-A3B และ Kimi-K2.6 บนฮาร์ดแวร์เช่น NVIDIA H100/H200/B200/B300 และ AMD MI300X/MI325X/MI355X การประกาศโครงการเน้นคำสั่ง `vllm serve` ที่ได้รับการปรับแต่งให้เหมาะสมและความเข้ากันได้กับผู้ให้บริการเช่น Arcee AI, Baidu และ Meta แพลตฟอร์มนี้เชื่อมโยงไปยังเอกสาร, GitHub และรายการความเข้ากันได้แบบเต็มรูปแบบ

ข่าว ME รายงานว่า เมื่อวันที่ 22 เมษายน (UTC+8) โครงการ vLLM ได้ประกาศว่าห้องสมุดการตั้งค่าที่ชุมชนดูแลรักษา ชื่อ vLLM Recipes ได้รับการออกแบบใหม่อย่างใหญ่หลวงแล้ว เว็บไซต์รุ่นใหม่นี้มีเป้าหมายเพื่อช่วยผู้ใช้ในการปรับใช้และรันโมเดลภาษาขนาดใหญ่อย่างรวดเร็ว โดยฟีเจอร์หลักใหม่คือการให้คำตอบที่สามารถคลิกได้สำหรับคำถามเช่น “วิธีรันโมเดลเฉพาะบนฮาร์ดแวร์เฉพาะเพื่อทำภารกิจเฉพาะ” เว็บไซต์ใช้รูปแบบ URL คล้ายกับ HuggingFace โดยผู้ใช้สามารถเปลี่ยนส่วนโดเมนใน URL ของโมเดลเพื่อไปยังหน้าโซลูชันที่ปรับแต่งแล้วโดยตรง แพลตฟอร์มนี้มีคำสั่งบรรทัดคำสั่ง `vllm serve` ที่ได้รับการปรับแต่งสำหรับโมเดลต่างๆ เช่น Qwen3.6-35B-A3B, Kimi-K2.6 และฮาร์ดแวร์ GPU หลายประเภท เช่น NVIDIA H100/H200/B200/B300, AMD MI300X/MI325X/MI355X ผู้ใช้สามารถเรียกดูโซลูชันตามผู้ให้บริการ เช่น Arcee AI, Baidu, ByteDance, DeepSeek, Google, Meta, Microsoft เป็นต้น แพลตฟอร์มนี้เข้ากันได้อย่างสมบูรณ์กับ vLLM และมีลิงก์เชื่อมไปยังเอกสารอย่างเป็นทางการ คลัง GitHub และรายการความเข้ากันได้ของฮาร์ดแวร์โมเดลเต็มรูปแบบ (ที่มา: InFoQ)

แหล่งที่มา:แสดงต้นฉบับ
คำปฏิเสธความรับผิดชอบ: ข้อมูลในหน้านี้อาจได้รับจากบุคคลที่สาม และไม่จำเป็นต้องสะท้อนถึงมุมมองหรือความคิดเห็นของ KuCoin เนื้อหานี้จัดทำขึ้นเพื่อวัตถุประสงค์ในการให้ข้อมูลทั่วไปเท่านั้น โดยไม่มีการรับรองหรือการรับประกัน และจะไม่ถูกตีความว่าเป็นคำแนะนำทางการเงินหรือการลงทุน KuCoin จะไม่รับผิดชอบต่อความผิดพลาดหรือการละเว้นในเนื้อหา หรือผลลัพธ์ใดๆ ที่เกิดจากการใช้ข้อมูลนี้ การลงทุนในสินทรัพย์ดิจิทัลอาจมีความเสี่ยง โปรดประเมินความเสี่ยงของผลิตภัณฑ์และความเสี่ยงที่คุณยอมรับได้อย่างรอบคอบตามสถานการณ์ทางการเงินของคุณเอง โปรดดูข้อมูลเพิ่มเติมได้ที่ข้อกำหนดการใช้งานและเอกสารเปิดเผยข้อมูลความเสี่ยงของเรา