ทีเทอร์เปิดตัวกรอบงานปัญญาประดิษฐ์สำหรับฝึกโมเดลพารามิเตอร์พันล้านบนอุปกรณ์มือถือ

ChainThink รายงานว่า เมื่อวันที่ 17 มีนาคม ผู้ออกสกุลเงินเสถียร Tether ประกาศเปิดตัวกรอบการปรับแต่ง LoRA ข้ามแพลตฟอร์มแรกของโลกสำหรับ Microsoft BitNet (1-bit LLM) บนแพลตฟอร์ม AI ของพวกเขา QVAC Fabric ซึ่งทำให้โมเดลภาษาขนาดพารามิเตอร์พันล้านสามารถฝึกฝนและดำเนินการได้บนฮาร์ดแวร์ทั่วไป รวมถึงแล็ปท็อป GPU ระดับผู้บริโภค และสมาร์ทโฟน

ทางฝ่ายอย่างเป็นทางการระบุว่า กรอบงานนี้ลดข้อจำกัดด้านหน่วยความจำกราฟิกและพลังการประมวลผลที่จำเป็นสำหรับการฝึกโมเดล AI อย่างมีนัยสำคัญ โดยรองรับ Intel, AMD, Apple Silicon และ GPU สำหรับอุปกรณ์พกพาหลายประเภท เช่น Adreno, Mali และ Apple Bionic

ในการทดสอบ โมเดล BitNet ขนาด 125 ล้านพารามิเตอร์สามารถปรับแต่งได้ภายในประมาณ 10 นาทีบน Samsung S25; โมเดลขนาด 1 พันล้านพารามิเตอร์ใช้เวลาประมาณ 1 ชั่วโมง 18 นาทีบน Samsung S25 และประมาณ 1 ชั่วโมง 45 นาทีบน iPhone 16 ทีมงานยังประสบความสำเร็จในการปรับแต่งโมเดลขนาด 13 พันล้านพารามิเตอร์บน iPhone 16

ในด้านประสิทธิภาพ ความเร็วในการให้ผลลัพธ์ของโมเดล BitNet บน GPU แบบพกพาสามารถเร็วขึ้น 2 ถึง 11 เท่าเมื่อเปรียบเทียบกับ CPU พร้อมกันนี้ การทดสอบแสดงให้เห็นว่า BitNet-1B ใช้หน่วยความจำ GPU ลดลงสูงสุด 77.8% เมื่อเปรียบเทียบกับโมเดล 16 บิต ในงานการให้ผลลัพธ์และการปรับแต่งแบบละเอียด

Paolo Ardoino ระบุว่า เทคโนโลยีนี้มีเป้าหมายเพื่อลดการพึ่งพาคลาวด์คอมพิวติ้งขนาดใหญ่และฮาร์ดแวร์ AI แบบเฉพาะทาง ทำให้การฝึกโมเดล AI สามารถทำได้บนอุปกรณ์ท้องถิ่น และสร้างพื้นฐานสำหรับรูปแบบใหม่ๆ เช่น AI แบบกระจายศูนย์และการเรียนรู้แบบร่วมมือ