Google Research เปิดตัว TurboQuant: การควอนไทซ์ 3 บิตโดยไม่สูญเสียความแม่นยำ เร่งความเร็วการอนุมานได้สูงสุด 8 เท่า

ตามการติดตามของ 1M AI News ห้องปฏิบัติการของกูเกิลได้เปิดตัวอัลกอริธึมการบีบอัดแบบควอนตัม TurboQuant ซึ่งสามารถบีบอัด KV cache ของโมเดลภาษาขนาดใหญ่ให้เหลือเพียง 3 บิต ลดการใช้หน่วยความจำอย่างน้อย 6 เท่า โดยไม่จำเป็นต้องฝึกหรือปรับแต่งใหม่ และไม่สูญเสียความแม่นยำของโมเดล ในโหมด 4 บิต ความเร็วในการคำนวณความสนใจบน GPU NVIDIA H100 สูงสุดเพิ่มขึ้นถึง 8 เท่าเมื่อเปรียบเทียบกับฐานที่ไม่ได้บีบอัดแบบ 32 บิต

ทีมวิจัยได้ตรวจสอบกับแบบจำลอง Gemma และ Mistral บนมาตรฐานบริบทยาวเช่น LongBench, Needle In A Haystack และ ZeroSCROLLS พบว่า TurboQuant แสดงผลดีที่สุดในทุกการทดสอบ อัลกอริธึมนี้ประกอบด้วยอัลกอริธึมย่อยสองตัว: PolarQuant กำจัดต้นทุนหน่วยความจำของวิธีการควอนตัมแบบดั้งเดิมผ่านการแปลงพิกัดเชิงขั้ว และ QJL แก้ไขข้อผิดพลาดที่เหลืออยู่ด้วยเพียง 1 บิต

การวิจัยนี้นำโดย Amir Zandieh จาก Google Research และ Vahab Mirrokni รองประธานและ Google Fellow ร่วมกับ KAIST ของเกาหลีและมหาวิทยาลัยนิวยอร์ก จะถูกตีพิมพ์ที่ ICLR 2026 Google ระบุว่าการประยุกต์ใช้งานหลักของเทคโนโลยีนี้คือการแก้ไขข้อจำกัดของ KV cache ในโมเดลเช่น Gemini