ChainThink mesajı, 17 Mart'ta stabil para yayıncısı Tether, Microsoft BitNet (1-bit LLM) için küresel ilk çapraz platform LoRA ince ayar çerçevesi olan QVAC Fabric'ı tanıttı; bu çerçeve, milyarlarca parametreli dil modellerinin normal donanımlarda, yani dizüstü bilgisayarlar, tüketici seviyesi GPU'lar ve akıllı telefonlarda eğitilmesini ve çıkarım yapılmasını sağlıyor.
Resmi açıklama göre, bu çerçeve, AI modeli eğitimi için gerekli olan video belleği ve hesaplama gücü engelini önemli ölçüde düşürerek Intel, AMD, Apple Silicon ve çeşitli mobil GPU'ları (Adreno, Mali, Apple Bionic gibi) desteklemektedir.
Test sırasında, yaklaşık 1,25 milyar parametreli BitNet modeli Samsung S25'te yaklaşık 10 dakikada ince ayarlandı; 10 milyar parametreli model Samsung S25'te yaklaşık 1 saat 18 dakikada, iPhone 16'da ise yaklaşık 1 saat 45 dakikada ince ayarlandı; ekip, iPhone 16'da 130 milyar parametreli modeli ince ayarlamayı başardı.
Performans açısından, BitNet modelleri mobil GPU'da CPU'ya göre 2 ila 11 kat daha hızlı çıkarım yapar. Aynı zamanda testler, BitNet-1B'nin çıkarım ve ince ayar görevlerinde 16-bit modellere kıyasla bellek kullanımını en fazla %77,8 oranında azalttığını göstermiştir.
Paolo Ardoino, bu teknolojinin büyük bulut hesaplama ve özel AI donanımına olan bağımlılığı azaltmayı, AI model eğitiminin yerel cihazlarda tamamlanmasını sağlamayı ve merkeziyetsiz AI ile federasyonlu öğrenme gibi yeni modeller için temel oluşturmayı amaçladığını belirtti.