تطلق تيثر إطار عمل BitNet LoRA متعدد المنصات لتدريب نماذج بمليارات المعلمات على الأجهزة الاستهلاكية

في 21 مارس، أعلنت Tether، وفقًا لإعلان رسمي، عن إطلاق إطار عمل QVAC Fabric لضبط الدقة الدقيقة BitNet LoRA عبر المنصات، مما يُحسّن تدريب واستنتاج Microsoft BitNet (1-bit LLM). يقلل هذا الإطار بشكل ملحوظ من متطلبات الحوسبة والذاكرة، مما يسمح بتدريب وضبط الدقة الدقيقة للنماذج ذات مليار معلمة على أجهزة مثل أجهزة الكمبيوتر المحمولة ووحدات معالجة الرسومات الاستهلاكية والهواتف الذكية. يُعد هذا الحل أول مرة يتم فيها ضبط الدقة الدقيقة لنماذج BitNet على وحدات معالجة الرسومات المتنقلة (بما في ذلك Adreno وMali وApple Bionic)، حيث أظهرت الاختبارات أن نموذجًا بـ 125 مليون معلمة يمكن ضبطه في حوالي 10 دقائق، ونموذج بـ 1 مليار معلمة في حوالي ساعة، ويمكن توسيعه حتى نماذج بـ 13 مليار معلمة على الهواتف. إضافةً إلى ذلك، يدعم هذا الإطار الأجهزة المتنوعة مثل Intel وAMD وApple Silicon، ويُعد أول مرة يتم فيها ضبط الدقة الدقيقة لـ 1-bit LLM على أجهزة غير NVIDIA. من حيث الأداء، يزيد سرعة الاستنتاج لنماذج BitNet على وحدات معالجة الرسومات المتنقلة بنسبة 2 إلى 11 مرة مقارنةً بالمعالجات المركزية، مع تقليل استخدام ذاكرة العرض بنسبة تصل إلى 77.8% مقارنةً بالنماذج التقليدية ذات 16-bit. أفادت Tether أن هذه التقنية من المحتمل أن تكسر الاعتماد على قدرات الحوسبة الفائقة والبنية التحتية السحابية، وتدفع تدريب الذكاء الاصطناعي نحو اللامركزية والمحليّة، وتوفّر أساسًا لتطبيقات جديدة مثل التعلم الاتحادي.