ٹیذر نے صارفین کے ڈیوائسز پر بلین پیرامیٹر ماڈل ٹریننگ کے لیے کراس پلیٹ فارم BitNet LoRA فریم ورک لانچ کیا

iconPANews
بانٹیں
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconخلاصہ

expand icon
ٹیذر نے آن-چین اخبارات اور کرپٹو خبروں کے لیے ایک کراس پلیٹ فارم BitNet LoRA فریم ورک متعارف کرایا، جس سے صارفین کے ہارڈویئر پر مائیکروسافٹ کے 1-بٹ BitNet ماڈلز کو ٹرین کیا جا سکتا ہے۔ یہ ٹول ارب پیرامیٹر والے ماڈلز کو لیپ ٹاپ، اسمارٹ فونز اور Adreno، Mali اور Apple Bionic جیسے GPU پر چلنا ممکن بناتا ہے۔ ایک 1B پیرامیٹر ماڈل کو فائن ٹیون کرنے میں تقریباً ایک گھنٹہ لگتا ہے۔ یہ سسٹم Intel، AMD اور Apple Silicon کو سپورٹ کرتا ہے، جس سے پہلی بار NVIDIA کے علاوہ دیگر ڈیوائسز پر 1-بٹ LLM LoRA ٹیوننگ ممکن ہو گئی ہے۔ BitNet ماڈلز موبائل GPU پر CPU کے مقابلے میں 2–11x تیز چلتے ہیں اور 16-بٹ ورژنز کے مقابلے میں 77.8% کم میموری استعمال کرتے ہیں۔ ٹیذر دعویٰ کرتا ہے کہ یہ ٹیکنالوجی کلاؤڈ پر انحصار کو کم کر سکتی ہے اور غیر مرکزی AI ٹریننگ کو ممکن بناتی ہے۔

PANews کی 21 مارچ کی خبر کے مطابق، افسرانی اعلان کے مطابق، ٹیسٹر نے QVAC Fabric میں کراس پلیٹ فارم BitNet LoRA فریم ورک متعارف کرایا ہے، جو Microsoft BitNet (1-bit LLM) کی تربیت اور استنتاج کو بہتر بناتا ہے۔ یہ فریم ورک کمپوٹیشنل طاقت اور میموری کی ضرورت کو نمایاں طور پر کم کرتا ہے، جس سے ارب پیرامیٹرز والے ماڈلز لیپ ٹاپ، صارفین کے GPU اور اسمارٹ فونز پر تربیت اور فائن ٹیوننگ کی جا سکتی ہے۔ یہ سسٹم پہلی بار BitNet ماڈلز کو موبائل GPU (شامل Adreno، Mali اور Apple Bionic) پر فائن ٹیون کرنے میں کامیاب ہوا۔ ٹیسٹنگ کے مطابق، 125M پیرامیٹرز والے ماڈل کو تقریباً 10 منٹ میں فائن ٹیون کیا جا سکتا ہے، جبکہ 1B ماڈل تقریباً ایک گھنٹے میں، اور اسمارٹ فون پر 13B پیرامیٹرز تک بھی وسعت دی جا سکتی ہے۔ اس فریم ورک کا سپورٹ Intel، AMD اور Apple Silicon جیسے ہeterogeneous ہارڈویئر کے لیے بھی دستیاب ہے، اور یہ پہلا فریم ورک ہے جو NVIDIA ڈوائس کے علاوہ 1-bit LLM LoRA فائن ٹیوننگ کو ممکن بناتا ہے۔ پرفارمنس کے لحاظ سے، BitNet ماڈلز موبائل GPU پر CPU کے مقابلے میں 2 سے 11 گنا تک تیز استنتاج فراہم کرتے ہیں، اور روایتی 16-bit ماڈلز کے مقابلے میں وسعت استعمال میں تقریباً 77.8% تک کمی لاتے ہیں۔ ٹیسٹر نے کہا کہ یہ ٹیکنالوجی اعلیٰ کمپوٹیشنل طاقت اور کلاؤڈ انفراسٹرکچر پر انحصار کو ختم کرنے کا امکان رکھتی ہے، AI تربیت کو مرکز سے باہر اور مقامی طور پر منتقل کرنے میں مدد دے گی، اور فڈریٹڈ لرننگ جیسے نئے اطلاقات کے لیے بنیاد فراہم کرے گی۔

اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔ ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔