ٹیثر کے AI تحقیق گروپ نے منگل کو جاری کیے گئے پریس ریلیز کے مطابق، گوگل تحقیق الگورتھم ٹربوکوانت کا ایک پروڈکشن ریڈی ایمپلیمنٹیشن کو اوپن سورس کر دیا ہے، جو AI کی میموری کی ضرورت کو نمایاں طور پر کم کرنے کے لیے ڈیزائن کیا گیا ہے۔
یہ ٹیکنالوجی اب QVAC Fabric، ٹیذر کے مقامی AI انجن کا حصہ ہے، اور اس میں مکمل کوانتائزیشن پائپ لائن، فریم ورک انٹیگریشنز، دستاویزات، اور حقیقی دنیا کے استعمال کے لیے ڈپلوymینٹ پروفائلز شamil ہیں۔
یہ ریلیز مقامی ڈیوائسز پر جدید AI چلانے کے لیے سب سے بڑی رکاوٹوں میں سے ایک، یعنی میموری کے استعمال کو ہدف بناتی ہے۔ جب AI اسسٹنٹس لمبے مکالمے، بڑے فائلز اور زیادہ پیچیدہ کاموں کو پروسیس کرتے ہیں، تو ان کا KV کیش بڑھتا ہے اور اس کے لیے قابلِ ذکر ہارڈویئر وسائل درکار ہوتے ہیں۔
محققین کے مطابق، ٹربوکوئنٹ ان میموری کی ضروریات کو 5 گنا تک کم کر دیتا ہے جبکہ ماڈل کی کارکردگی کو برقرار رکھتا ہے، جس سے لیپ ٹاپ، فونز، صارفین کے جی پی یو، اور ایج ڈیوائسز پر صلاحیت رکھنے والے اے آئی سسٹمز چلانا آسان ہو جاتا ہے۔
"گوگل کے تحقیق نے ظاہر کیا کہ AI میموری کو زیادہ موثر طریقے سے دبایا جا سکتا ہے جس سے زیادہ لوگوں نے سوچا تھا۔ ہمارا کام اس انقلابی ترقی کو ایسے پیداواری سافٹ ویئر میں لایا ہے جسے ڈویلپرز، اسٹارٹ اپس اور صارفین حقیقی طور پر بناسکتے ہیں،" ٹیذر کے سی ای او پاؤلو آرڈونو نے اس جاری کرنے پر تبصرہ کیا۔
ارڈونو کے مطابق، AI ٹولز لمبے دستاویزات کو پروسیس کرنے، پروجیکٹ کا کنٹیکس برقرار رکھنے، سافٹ ویئر ڈویلپمنٹ کو سپورٹ کرنے اور ہر ٹاسک کو کلاؤڈ انفراسٹرکچر کے ذریعے نہیں بلکہ ذاتی ڈیٹا کو مقامی طور پر استعمال کرنے قابل ہونے چاہئیں۔ اس نے کہا کہ ٹربوکوئنٹ مقامی AI سسٹمز کو زیادہ میموری کی صلاحیت اور کنٹیکسچل ایورینس فراہم کرکے اسے ممکن بناتا ہے۔
اگر لمبے متن کی AI صرف سب سے بڑے ڈیٹا سینٹرز کے اندر کام کرتی ہے، تو AI وہی شکل دے گا جس کے پاس زیادہ سے زیادہ ہارڈویئر ہوگا،" اس نے کہا۔
ٹیذر کا خیال ہے کہ یہ ٹیکنالوجی مرکزی کلاؤڈ سروسز سے زیادہ AI ورکلوڈز منتقل کرنے میں مدد کر سکتی ہے، جس سے مقامی ہارڈویئر پر لمبے کنٹیکس ونڈوز اور بہتر پرفارمنس ممکن ہو سکتی ہے۔
QVAC SDK 0.12.0 میں شamil، اس ریلیز کی کمپنی کی ہدایت کو حاصل کرتا ہے جو AI سسٹمز کو صارفین کے قریب، ذاتی ڈیوائسز، مقامی نیٹ ورکس، اور ڈی سینٹرلائزڈ انفراسٹرکچر کے ذریعے چلنا چاہتی ہے۔