ME نیوز کے مطابق، 19 مئی (UTC+8) کو، Beating کی نگرانی کے مطابق، ByteDance Research نے اپنا اصلی یکجا بہ متعدد ماڈل Lance کو اوپن سورس کر دیا ہے۔ یہ ایک ہلکا پھلکا ماڈل ہے جس کے صرف 3B ایکٹیو پیرامیٹرز ہیں اور یہ ایک ہی فریم ورک میں تصویر اور ویڈیو کو سمجھنے، بنانے اور ایڈٹ کرنے کی سہولت فراہم کرتا ہے۔ موجودہ مقبول یکجا ماڈلز زیادہ تر پیرامیٹرز کے سائز بڑھانے یا ٹیکسٹ تو ایجج کے آرکیٹیکچر پر انحصار کرتے ہیں، لیکن Lance نے بہت کم کمپوٹیشنل طاقت کے ساتھ مل کر کام کرنے کا راستہ اپنایا ہے۔ تحقیقی ٹیم نے ماڈل کو مکمل طور پر صفر سے ٹرین کیا اور پورے ٹریننگ دوران کل کمپوٹیشنل بجٹ کو صرف 128 A100 GPU تک محدود کر دیا۔ مختلف ماڈلز اور کاموں کے درمیان داخلی تنازعات کو حل کرنے کے لیے، Lance نے دو سخت علیحدگیاں شامل کیں: - ملے ہوئے بہ متعدد س퀀سز کو سنبھالنے کے لیے دو سٹریم مکسڈ اسپیشلسٹ (MoE) آرکیٹیکچر استعمال کیا گیا ہے، جس میں بنیادی سندھ کو شیئر کرتے ہوئے سمجھنے اور بنانے کے حسابات کے راستوں کو الگ کر دیا گیا ہے۔ - تصویر اور ویڈیو کے غیر ہم آہنگ وژول ٹوکنز کے درمیان سگنل انٹرفیرنس کو براہ راست کم کرنے کے لیے ماڈل-ایونس روٹیشنل پوزیشنل اینکوڈنگ شامل کی گئی ہے۔ انتہائی کم حساباتی طاقت کے باوجود، اس کا پرفارمنس لِمٹ نہیں گرا۔ صرف 3B ایکٹیو پیرامیٹرز کے ساتھ، Lance کا تصویر اور ویڈیو بنانے اور ایڈٹ کرنے کا پرفارمنس زیادہ تر بینچ مارکس میں موجودہ اوپن سورس یکجا ماڈلز پر برتر ہے، جس سے چھوٹے پیرامیٹرز کے ساتھ جنریشن اور سینٹینٹک سمجھ دونوں کو محفوظ طریقے سے حاصل کرنے کا راستہ ممکن ہوا۔ (ذرائع: BlockBeats)
بائٹڈانس نے 3B پیرامیٹر والے متعدد ماڈل لینس کو اوپن سورس کر دیا ہے، جو 128 A100 GPU پر تربیت یافتہ ہے
KuCoinFlashبانٹیں
خلاصہ
بائٹڈانس نے 19 مئی کو 128 A100 GPU کا استعمال کرتے ہوئے تربیت دی گئی اپنی 3B پیرامیٹر متعدد ماڈل لینس کو اوپن سورس کر دیا۔ یہ ماڈل ایک ہی فریم ورک میں تصویر اور ویڈیو کے کاموں کو سنبھالتا ہے۔ آن چین ڈیٹا سے پتہ چلتا ہے کہ AI سے متعلق کرپٹو منصوبوں میں کھلی دلچسپی بڑھ رہی ہے۔ لینس ایک دوہری اسٹریم MoE ڈیزائن اور ماڈالٹی ایور روٹیشن اینکوڈنگ کا استعمال کرتا ہے تاکہ لاگت کم ہو اور زبردست کارکردگی برقرار رہے۔ اس ترکیب میں AI سے متعلق ٹوکنز میں کھلی دلچسپی مستقل طور پر بڑھ رہی ہے۔
ذریعہ:اصل دکھائیں۔
اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔
ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔