Tether Melancarkan Kerangka Kerja BitNet LoRA Silang Platform untuk Melatih Model AI Berparameter Miliaran pada Peranti Pengguna

iconKuCoinFlash
Kongsi
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconRingkasan

expand icon
Tether mengumumkan kerangka kerja BitNet LoRA lintas platform untuk berita on-chain dan berita AI + kripto, membolehkan model AI berparameter bilion dilatih pada peranti pengguna. Kerangka kerja ini, sebahagian daripada QVAC Fabric, mengoptimumkan BitNet Microsoft untuk penggunaan komputasi dan memori yang rendah. Ia menyokong Adreno, Mali, Apple Bionic, dan lain-lain, dengan model 1B yang disesuaikan dalam masa kira-kira satu jam. Peranti bukan NVIDIA kini menyokong latihan LLM 1-bit. Model BitNet berjalan 2–11x lebih pantas pada GPU mudah alih berbanding CPU, menggunakan 77.8% kurang VRAM berbanding model 16-bit. Tether mengatakan teknologi ini mengurangkan ketergantungan pada awan dan menyokong latihan AI terdesentralisasi.

Odaily Planet Daily melaporkan, menurut pengumuman rasmi, Tether mengumumkan pelancaran kerangka penyesuaian halus BitNet LoRA lintas platform dalam QVAC Fabric, untuk mengoptimumkan latihan dan inferens Microsoft BitNet (1-bit LLM). Kerangka ini secara ketara mengurangkan keperluan kuasa pengiraan dan memori, membolehkan model berparameter bilionan dilatih dan disesuaikan halus di atas laptop, GPU peringkat pengguna, dan telefon pintar.

Skema ini pertama kali membolehkan penyesuaian model BitNet pada GPU mudah alih (termasuk Adreno, Mali, dan Apple Bionic). Ujian menunjukkan bahawa model dengan 125M parameter boleh disesuaikan dalam tempoh kira-kira 10 minit, model 1B dalam tempoh sekitar 1 jam, dan bahkan boleh diperluaskan hingga model 13B parameter di peranti telefon.

Selain itu, kerangka ini menyokong peranti heterogen seperti Intel, AMD, dan Apple Silicon, serta pertama kali mencapai penyesuaian LoRA 1-bit LLM pada peranti bukan NVIDIA. Dari segi prestasi, model BitNet meningkatkan kelajuan inferens sebanyak 2 hingga 11 kali ganda pada GPU mudah alih berbanding CPU, sambil mengurangkan penggunaan memori video sehingga 77.8% berbanding model 16-bit tradisional.

Tether menyatakan bahawa teknologi ini berpotensi mengurangkan ketergantungan kepada kekuatan pengiraan tinggi dan infrastruktur awan, mendorong latihan AI ke arah desentralisasi dan lokalisasi, serta menyediakan asas untuk aplikasi baru seperti pembelajaran federasi.

Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.