ٹیذر نے اسمارٹ فون ماڈل ٹریننگ کے لیے AI فریم ورک لانچ کیا

اہم نکات

• ٹیثر نے اسمارٹ فونز پر بڑے زبانی ماڈل تربیت کے لیے ایک فریم ورک متعارف کرایا۔
• اس سسٹم نے کمپیوٹ کی ضروریات کو کم کرنے کے لیے BitNet آرکیٹیکچر اور LoRA فائن ٹننگ کا استعمال کیا۔
• کرپٹو کمپنیوں نے AI انفراسٹرکچر اور هائی-پرفارمنس کمپوٹنگ پر خرچہ بڑھایا۔

ٹیثر نے منگل کو ایک نیا صنعتی ذہانت تربیتی فریم ورک جاری کیا جو بڑے زبان ماڈلز کو صارفین کے ہارڈویئر پر چلانے اور فائن ٹیون کرنے کی اجازت دیتا ہے۔ یہ سسٹم کمپنی کے QVAC پلیٹ فارم کا حصہ تھا اور اسمارٹ فونز کے ساتھ کئی غیر نووڈیا پروسیسرز کو سپورٹ کرتا تھا۔ انجینئرز نے اس فریم ورک کو میموری کی ضرورتیں کم کرنے کے لیے ڈیزائن کیا تاکہ زبان ماڈلز بنانے اور ٹیسٹ کرنے کی لاگت کا رکاوٹ کم ہو جائے۔

اس لانچ کے ساتھ کریپٹو انفراسٹرکچر کمپنیاں صنعتی ذہانت کی ترقی اور کمپیوٹ مارکیٹس میں مزید گہرائی تک گئیں۔ بڑے اسٹیبل کوائن کے جاری کنندہ ٹیٹر نے اس جاری کرنے کو مشین لرننگ کے صلاحیتوں کو غیر مرکزی بنانے کی کوشش کے طور پر پیش کیا۔ کمپنی نے دلیل دی کہ عام طور پر دستیاب ہارڈویئر پر ماڈل ٹریننگ کو سہولت فراہم کرنے سے مرکزی کلاؤڈ فراہم کنندگان پر انحصار کم ہو سکتا ہے۔

ٹیثر کے اعلان میں اس فریم ورک کو مائیکروسافٹ کی بٹ نیٹ آرکیٹیکچر پر بنائے گئے ایک ٹریننگ ماحول کے طور پر بیان کیا گیا۔ ڈیزائن میں ایک بٹ نیورل نیٹ ورک سٹرکچرز کو LoRA فائن ٹننگ طریقے کے ساتھ ملا کر استعمال کیا گیا، جس سے ڈویلپرز ماڈلز کو ایڈجسٹ کر سکتے ہیں جبکہ کمپیوٹ ڈیمانڈز کم رہتے ہیں۔

کمپنی کے انجینئرز نے کہا کہ سسٹم نے ایک ارب پیرامیٹرز تک کے زبانی ماڈلز کو اسمارٹ فونز پر دو گھنٹوں سے کم وقت میں ٹرین کیا۔ اسی طریقہ کار سے بہتر بنائے گئے چھوٹے ماڈلز کی ٹریننگ منٹوں میں مکمل ہو گئی۔ کمپنی نے یہ بھی کہا کہ پلیٹ فارم موبائل ڈیوائسز پر تیرہ ارب پیرامیٹرز تک کے ماڈلز کی حمایت کرتا ہے۔

انجینئرز نے نظام کو Nvidia چپس پر انحصار کیے بغیر کئی ہارڈویئر ایکو سسٹمز پر کام کرنے کے لیے تعمیر کیا۔ یہ فریم ورک AMD پروسیسرز، Intel آرکیٹیکچرز، Apple Silicon سسٹمز اور Qualcomm اور Apple کے موبائل گرافکس پروسیسرز کو سپورٹ کرتا تھا۔ یہ مطابقت مین چین لرننگ تجربات تک رسائی کو روایتی اعلیٰ پرفارمنس کمپیوٹنگ کلسٹرز سے آگے بڑھا دی۔

ٹیکنیکل ڈیزائن نے معیاری ماڈلز کے مقابلے میں گرافکس میموری کی ضروریات بھی کم کردیں۔ اندر کے انجینئرنگ نتائج نے ظاہر کیا کہ BitNet آرکیٹیکچر نے قابلِ موازنہ 16-بٹ سسٹمز کے مقابلے میں VRAM کے استعمال کو تقریباً 77.8% تک کم کردیا۔

ٹیذر نے کہا کہ یہ آرکیٹیکچر Nvidia کے ایکو سسٹم کے باہر LoRA فائن ٹیوننگ کو ممکن بناتا ہے۔ گزشتہ زمانے میں ڈویلپرز تربیت کے کاموں کے لیے Nvidia کے گرافکس پروسیسرز پر انحصار کرتے تھے کیونکہ یہ چپس بڑے ٹینسر کیلکولیشنز کو موثر طریقے سے سنبھالتے تھے۔ ٹیذر کے انجینئرز نے مختلف پروسیسرز پر لو-بٹ تربیت کے طریقے فراہم کرکے اس حد کو ختم کرنے کی کوشش کی۔

کمپنی نے دلیل دی کہ اس آرکیٹیکچر نے موبائل ورکلوڈز کے لیے انفرنس سپیڈز کو بھی بہتر بنایا۔ ٹیسٹوں نے ظاہر کیا کہ موبائل گرافکس پروسیسرز نے بٹ نیٹ ماڈلز کو عام سینٹرل پروسیسنگ یونٹس کے مقابلے میں کئی گنا تیزی سے پروسیس کیا۔ اس فرق کی وجہ سے ماڈلز ہینڈہیلڈ ڈیوائسز پر مقامی طور پر چل سکتے ہیں، بجائے اس کے کہ ریموٹ کلاؤڈ انفراسٹرکچر کی ضرورت پڑے۔

ڈیولپرز نے سسٹم کے اندر تقسیم شدہ مشین لرننگ طریقے بھی دریافت کیے۔ ٹیذر نے فیڈریٹڈ لرننگ ماڈلز کے ممکنہ استعمال کا تصور پیش کیا جو مستقل ڈیوائسز کے نیٹ ورکس کے ذریعے اپڈیٹ ہوتے ہیں۔ اس ساخت کے تحت، ماڈلز مقامی ڈیٹا سے سیکھتے ہیں جبکہ ہر ڈیوائس پر معلومات کو محفوظ رکھتے ہیں اور اسے مرکزی سرورز پر اپ لوڈ نہیں کرتے۔

کمپنی نے سفارش کی کہ یہ طریقہ خصوصیت پر مبنی تربیت کے ماحول کی حمایت کر سکتا ہے۔ ڈیٹا مقامی رہا، جبکہ صرف ماڈل اپ ڈیٹس نیٹ ورکس کے ذریعے منتقل کیے گئے۔ یہ ساخت ڈی سینٹرلائزڈ کمپیوٹنگ سسٹمز اور تقسیم شدہ کرپٹوگرافک نیٹ ورکس کے اندر رجحانات کو عکس کرتی تھی۔

ڈیجیٹل ایسٹ سیکٹر میں مارکیٹ کی سرگرمیوں نے صنعتی ذخیرہ کے لیے آرٹیفیشل انٹیلی جنس کے انفراسٹرکچر میں سرمایہ کاری میں اضافہ دکھایا۔ کرپٹو کمپنیاں اب بلاک چین آپریشنز کے لیے بنائے گئے کمپیوٹنگ کے طاقت کو مشین لرننگ کے کاموں کے لیے دوبارہ استعمال کر رہی ہیں۔

عوامی دستاویزات نے ظاہر کیا کہ ٹیکنالوجی کمپنیوں نے صنعتی ذہانت کی مانگ کے ساتھ کمپیوٹنگ طاقت حاصل کرنے کے لیے شراکتیں قائم کیں۔ ستمبر میں اعلان کیا گیا معاہدہ جس میں گوگل کو سائفر مائننگ میں 3 ارب ڈالر کی قیمت والے 10 سالہ معاہدے کے تحت ایک مینورٹی اسٹیک دی گئی۔ یہ ترتیب ڈیٹا سنٹر کی صلاحیت کو صنعتی ذہانت کے پروسیسنگ کی ضروریات سے جوڑتی ہے۔

کاروباری اعلانات کے بعد بتایا گیا کہ بٹ کوائن مائننگ فرمیں بھی سرمایہ کو مکین لرننگ سروسز کی طرف موڑ رہی ہیں۔ دسمبر میں، مائنر IREN نے صنعتی ذخائر کو مصنوعی ذہانت کے آپریشنز کے لیے وسعت دینے کے لیے تقریباً 3.6 ارب ڈالر جمع کرنے کی منصوبہ بندی کی۔

سال کی شروعات میں کاروباری منافع کی رپورٹس نے وہی رجحان مضبوط کیا۔ HIVE Digital Technologies نے اپنی هائی-پرفارمنس کمپیوٹنگ سروسز کو وسعت دینے کے بعد 93.1 ملین امریکی ڈالر کی آمدنی کی اطلاع دی۔ تقریباً اسی دوران، Core Scientific نے اپنی کمپیوٹنگ انفراسٹرکچر میں ترقی کے لیے Morgan Stanley سے 500 ملین امریکی ڈالر کا قرضہ سہولت حاصل کی۔

ڈیولپرز نے بلاک چین انفراسٹرکچر کے ساتھ ایکٹون آرٹیفیشل انٹیلی جنس ایجینٹس کے ساتھ تجربہ بھی کیا۔ کوین بیس نے والٹ ٹولز شروع کیے جن کے ذریعے سافٹ ویئر ایجینٹس بلاک چین پر براہ راست لین دین کر سکتے ہیں۔ الکیمی نے خدمات متعارف کرائیں جن کے ذریعے ایجینٹس بلاک چین ڈیٹا تک رسائی حاصل کر سکتے ہیں جبکہ اسٹیبل کوائن انفراسٹرکچر کے ذریعے ادائیگیاں سیٹل کرتے ہیں۔

شناخت نیٹ ورکس نے مصنوعی ذہانت کے نظام اور ڈیجیٹل تصدیق کے درمیان تعلق کا بھی جائزہ لیا۔ ورلڈ، جو اوپن اے آئی کے چیف سام الٹمن کے ساتھ مل کر قائم کیا گیا تھا، نے اس ہفتے ایجنٹ کٹ جاری کیا۔ یہ ٹول کٹ نرم افزار ایجنٹس کو ورلڈ آئی ڈی سسٹم کے ذریعے اپنی منفرد انسانی شناخت سے جڑنے کی تصدیق کرنے کی اجازت دیتا ہے۔

ٹیثر کا تازہ ترین فریم ورک وہی بڑھتے ہوئے شعبہ ہے جہاں کمپیوٹنگ وسائل، مشین لرننگ اور بلاک چین سسٹمز کا تقاطع ہوتا ہے۔

کمپنی نے کہا کہ ڈویلپرز ٹریننگ ٹولز کو مرکزی سرورز پر انحصار کیے بغیر تقسیم شدہ ایپلیکیشنز اور مقامی ڈیوائسز میں اندراج کر سکتے ہیں۔

ٹیتر کے artificial intelligence فریم ورک کا اگلا ترقیاتی مرحلہ ڈویلپر کی قبولیت اور ڈیوائس لیول کی پرفارمنس ٹیسٹنگ پر منحصر ہوگا۔ انجینئرز اگلی ریلیزز کے دوران QVAC پلیٹ فارم کو تقسیم شدہ صارفین کے ہارڈویئر پر بڑے ماڈلز کو کیسے سنبھالتا ہے، اس کی نگرانی کریں گے۔

پوسٹ Tether Unveils AI Framework Enabling Model Training on Smartphones پہلے The Coin Republic پر ظاہر ہوئی۔