کلیٹیک نے 1-بٹ بونسائی ماڈل کو اوپن سورس کر دیا: آئی فون پر 8B پیرامیٹرز، 1.15GB، 44 ٹوک/سیکنڈ

iconChainthink
بانٹیں
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconخلاصہ

expand icon
آن-چین خبریں: بابک حسیبی کی قیادت میں کیلٹیک کا PrismML، 1-بٹ Bonsai AI ماڈلز کو اوپن سورس کر چکا ہے۔ 8B ورژن میں 8.2 ارب پیرامیٹرز، 1.15 جیگا بائٹ میموری ہے اور iPhone 17 Pro Max پر فی سیکنڈ 44 ٹوکنز کی رفتار سے چلتا ہے۔ AI + کرپٹو خبریں: یہ ماڈل 16-بٹ ورژنز کے مقابلے میں 4-5 گنا کم توانائی استعمال کرتا ہے۔ PrismML نے Khosla Ventures، Cerberus Capital اور Caltech سے SAFE اور سیڈ راؤنڈز میں 16.25 ملین امریکی ڈالر جمع کر لیے ہیں۔

چین تھنک کے مطابق، 1 مئی 2026 کو، 1M AI News کی نگرانی کے مطابق، کیلیفورنیا انسٹیٹیوٹ آف ٹیکنالوجی کے ریاضی دان بابک حسیبی کے ساتھ مل کر بناۓ گئے AI لیب PrismML نے اپنی پوشیدہ مدت ختم کر دی اور 1-بٹ Bonsai سیریز کے بڑے زبانی ماڈلز کو اوپن سورس کر دیا۔ فلگش ماڈل 1-بٹ Bonsai 8B میں 8.2 ارب پیرامیٹرز ہیں، جس کا میموری استعمال صرف 1.15GB ہے، جو اسی سطح کے 16-بٹ ماڈلز کے مقابلے میں تقریباً 14 گنا کم ہے، اس کے ساتھ 4B (0.5GB) اور 1.7B (0.24GB) کے دو چھوٹے ماڈلز بھی جاری کئے گئے۔


بونسائی 8B ایک انٹیگریٹڈ حقیقی 1-بٹ ماڈل ہے، جس میں ایم بیڈنگ لیئر، توجہ لیئرز، MLP لیئرز اور آؤٹ پٹ ہیڈ تمام +1 یا -1 کے وزن کے ساتھ ہیں، کوئی اعلی درجہ کی پچ نہیں۔ پرزم ایم ایل کا کہنا ہے کہ معیاری بنچ مارکس پر اس کی انفرینس اور زبان کی سمجھ 16-بٹ مکمل درجہ کے ماڈل کے برابر ہے، جس کا مرکزی دباؤ ریاضی ٹیم نے کیلیفورنیا انسٹیٹیوٹ آف ٹیکنالوجی میں کئی سالوں تک ترقی دی، جس کا ملکیت کیلیفورنیا انسٹیٹیوٹ آف ٹیکنالوجی کے پاس ہے، اور پرزم ایم ایل واحد منفرد لائسنس حاصل کنندہ ہے، اور ماڈل گوگل v4 TPU پر تربیت دیا گیا ہے۔


实测 سپیڈ کے لحاظ سے، M4 Pro Mac پر 136 tok/s، RTX 4090 پر 440 tok/s، اور iPhone 17 Pro Max پر تقریباً 44 tok/s ہے۔ معیاری 16-bit 8B ماڈل کو کسی بھی iPhone میں نہیں ڈالا جا سکتا، اور توانائی کا استعمال 16-bit ماڈل کے مقابلے میں تقریباً 4-5 گنا کم ہے۔ PrismML کے مطابق، موجودہ ہارڈویئر 1-bit انفرنس کے لیے ڈیزائن نہیں کیا گیا ہے، اور سپیڈ اور توانائی کے فوائد بنیادی طور پر میموری استعمال میں کمی کی وجہ سے ہیں۔ اگلے دور میں اگر 1-bit کے لیے خصوصی طور پر ڈیزائن کیا گیا ہارڈویئر آ جائے تو، کارکردگی مزید ایک درجہ بڑھ سکتی ہے۔


PrismML نے 16.25 ملین امریکی ڈالر کے SAFE اور بیج فنڈنگ کا خاتمہ کر لیا، جس میں Khosla Ventures، Cerberus Capital اور کیلیفورنیا انسٹیٹیوٹ آف ٹیکنالوجی شامل ہیں۔ Khosla Ventures کے بانی وینود خوسلا نے اس کام کو "ایک چھوٹی ترقی نہیں، بلکہ ایک بڑا ٹیکنالوجیکل بریک ٹھرو، ایک ریاضی کا بریک ٹھرو، صرف ایک اور چھوٹا ماڈل نہیں" کہہ کر تعریف کی۔

اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔ ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔