อินเทลเปิดตัวรุ่นควอนไตรซ์ INT4 สามรุ่นของโมเดลวิดีโอ Alibaba Wan2.2

ข่าวจาก ME News เมื่อวันที่ 21 เมษายน (UTC+8) ตามข้อมูลจาก Beating Monitoring ฮายห่าว เซิน วิศวกรหัวหน้าด้าน AI ของ Intel ประกาศว่า Intel ได้อัปโหลดรุ่น INT4 จำนวนสามรุ่นของโมเดลวิดีโอ Wan 2.2 ของ Alibaba ลงบน Hugging Face ได้แก่ T2V-A14B (ข้อความเป็นวิดีโอ), I2V-A14B (รูปภาพเป็นวิดีโอ) และ TI2V-5B (ผสมข้อความและรูปภาพเป็นวิดีโอ) โดยทั้งหมดถูกบีบอัดด้วย AutoRound ไปที่ W4A16 เซินเองเป็นผู้เขียนหลักของเครื่องมือการบีบอัด AutoRound นี้ INT4 ลดขนาดน้ำหนักจาก 2 ไบต์ใน BF16 เหลือเพียง 0.5 ไบต์ ทำให้ขนาดน้ำหนักลดเหลือประมาณหนึ่งในสี่ของรุ่นเดิม รุ่น A14B ทั้งสองรุ่นใช้สถาปัตยกรรม MoE มีพารามิเตอร์รวม 27B และเปิดใช้งาน 14B ต่อขั้นตอน เอกสารอย่างเป็นทางการระบุว่าต้องใช้หน่วยความจำ GPU อย่างน้อย 80GB เพื่อเรียกใช้งานวิดีโอความละเอียด 720P บนหนึ่งการ์ด ส่วน TI2V-5B เป็นโมเดลหนาแน่น รุ่นเดิมสามารถเรียกใช้งานวิดีโอความละเอียด 720P@24fps ได้บนการ์ด 4090 อย่างไรก็ตาม Intel ยังไม่ได้เปิดเผยผลการทดสอบจริงเกี่ยวกับหน่วยความจำ GPU และคุณภาพภาพหลังการบีบอัด ต้องรอการยืนยันจากบุคคลที่สาม การเชื่อมต่อการให้บริการของโมเดลทั้งสามรุ่นไม่ได้ใช้ vLLM เส้นทางหลัก แต่ README ชี้ไปยังสาขา vllm-omni ของ Intel เอง (feats/ar-w4a16-wan22) ซึ่งต้องติดตั้งสาขาดังกล่าวจึงจะสามารถเรียกใช้งานได้ (ที่มา: BlockBeats)