ٹیذر نے صارفین کے ڈیوائسز پر بلین پیرامیٹر AI ماڈلز کے تربیت کے لیے کراس پلیٹ فارم BitNet LoRA فریم ورک شروع کیا ہے

iconKuCoinFlash
بانٹیں
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconخلاصہ

expand icon
ٹیذر نے آن-چین خبروں اور AI + کرپٹو خبروں کے لیے ایک کراس پلیٹ فارم BitNet LoRA فریم ورک کا اعلان کیا ہے، جس سے بیلین پیرامیٹر AI ماڈلز صارفین کے ڈیوائسز پر تربیت حاصل کر سکتے ہیں۔ یہ فریم ورک، QVAC Fabric کا حصہ ہے، جو مائیکروسافٹ کے BitNet کو کم کمپوٹیشنل اور میموری استعمال کے لیے بہتر بناتا ہے۔ یہ Adreno، Mali، Apple Bionic اور دیگر کو سپورٹ کرتا ہے، جس میں 1B ماڈلز تقریباً ایک گھنٹے میں فائن ٹیون ہو جاتے ہیں۔ غیر-NVIDIA ہارڈ ویئر اب 1-bit LLM تربیت کو سپورٹ کرتا ہے۔ BitNet ماڈلز موبائل GPU پر CPU کے مقابلے میں 2–11x تیز چلتے ہیں، اور 16-bit ماڈلز کے مقابلے میں 77.8% کم VRAM استعمال کرتے ہیں۔ ٹیذر کا کہنا ہے کہ یہ ٹیکنالوجی کلاؤڈ پر انحصار کو کم کرتی ہے اور غیر مرکزی AI تربیت کو سپورٹ کرتی ہے۔

اوڈیلی پلانٹ ریپورٹ کے مطابق، افسرانی اعلان کے مطابق، ٹیسٹر نے کراس پلیٹ فارم BitNet LoRA فریم ورک کو QVAC Fabric میں متعارف کرایا ہے، جو مائیکروسافٹ BitNet (1-bit LLM) کی تربیت اور استنتاج کو بہتر بناتا ہے۔ یہ فریم ورک کمپوٹیشنل طاقت اور میموری کی ضرورت کو نمایاں طور پر کم کرتا ہے، جس سے ارب پیرامیٹرز والے ماڈلز لیپ ٹاپ، صارفین کے GPU اور اسمارٹ فونز پر تربیت اور فائن ٹیوننگ کی جا سکتی ہے۔

یہ منصوبہ BitNet ماڈل کو موبائل گیم پر (Adreno، Mali اور Apple Bionic سمیت) فائن ٹیون کرنے کا پہلا طریقہ ہے۔ ٹیسٹنگ سے پتہ چلتا ہے کہ 125M پیرامیٹرز والے ماڈل کو تقریباً 10 منٹ میں فائن ٹیون کیا جا سکتا ہے، جبکہ 1B ماڈل تقریباً ایک گھنٹے میں، اور یہاں تک کہ موبائل پر 13B پیرامیٹرز والے ماڈل تک وسعت دی جا سکتی ہے۔

اس کے علاوہ، یہ فریم ورک Intel، AMD اور Apple Silicon جیسے ہیٹرو جینک ہارڈ ویئر کو سپورٹ کرتا ہے اور نیٹ ورک کے علاوہ کسی بھی ڈیوائس پر 1-bit LLM LoRA فائن ٹیوننگ کو پہلی بار ممکن بناتا ہے۔ پرفارمنس کے لحاظ سے، BitNet ماڈلز موبائل GPU پر CPU کے مقابلے میں 2 سے 11 گنا تیز رفتاری کے ساتھ رن ہوتے ہیں، جبکہ ٹریڈیشنل 16-bit ماڈلز کے مقابلے میں ویڈیو میموری استعمال میں زیادہ سے زیادہ 77.8% تک کمی آتی ہے۔

ٹیثر کا کہنا ہے کہ یہ ٹیکنالوجی اعلیٰ کمپوٹیشنل طاقت اور کلاؤڈ انفراسٹرکچر کے اعتماد کو توڑنے کے قابل ہے، جس سے AI ٹریننگ کو غیر مرکزی اور مقامی طور پر ترقی دی جا سکے گی، اور فیڈریٹڈ لرننگ جیسے نئے اطلاقی منصوبوں کے لیے بنیاد فراہم کی جا سکے گی۔

اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔ ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔