- ٹیذر کا ٹربوکوانت AI کے استعمال والی میموری کو تکراراً 5 گنا تک کم کرتا ہے، جس سے ڈیوائسز لمبے کاموں کو مقامی طور پر سنبھال پاتے ہیں۔
- QVAC 0.12.0 ڈیولپرز کو کم میموری کے دباؤ کے ساتھ لیپ ٹاپ اور فونز پر بڑے AI ورک لوڈز چلانے کی اجازت دیتا ہے۔
- ٹربوکوئنٹ AI کے میموری بٹل نیک کو حل کرتا ہے، جس سے لمبے چیٹس، بڑے فائلز، اور بڑے کوڈ پروجیکٹس ممکن ہو جاتے ہیں۔
ٹیذر نے QVAC SDK 0.12.0 میں ایک نیا میموری آپٹیمائزیشن ٹول شامل کیا ہے، جس سے لیپ ٹاپ، اسمارٹ فون اور دیگر ڈیوائسز کو مقامی طور پر بڑے ورک لوڈز کو سنبھالنے میں مدد مل سکتی ہے۔ X پر اپڈیٹ کا اعلان کرتے ہوئے سی ای او پاؤلو آرڈونو نے کہا کہ اس ریلیز میں ٹربوکوئنٹ شامل ہے، جو تقریباً اتنی ہی آؤٹ پٹ کوالٹی برقرار رکھتے ہوئے AI میموری کی ضرورت کو تین تک کم کر دیتا ہے۔
اپڈیٹ بڑے زبانی ماڈلز کے لیے ایک اہم پابندی پر مرکوز ہے: میموری۔ جیسے گفتگو اور کام لمبے ہوتے جاتے ہیں، میموری کی ضرورتیں تیزی سے بڑھتی جاتی ہیں۔ ٹربوکوئنٹ اس بوجھ کو کم کرتا ہے، جس سے ڈیوائسز بڑے دستاویزات، لمبی گفتگو، اور ایک ساتھ زیادہ معلومات کے ساتھ کام کر سکتی ہیں۔
اس ریلیز میں متن سے ویڈیو جنریشن، روبوٹ کنٹرول فیچرز، کوڈنگ اسسٹنٹ سپورٹ، آواز پروسیسنگ اپ گریڈز، اور تیز تر تصویر طبقہ بندی کے ٹولز بھی شامل ہیں۔
ٹربوکوئنٹ AI کے میموری بٹل نیک کو ہدف بناتا ہے
ٹربوکوانت QVAC SDK 0.12.0 کی ریلیز کا مرکزی نقطہ ہے۔ یہ ٹیکنالوجی KV کیش کو دباتی ہے، جو AI ماڈلز کے لیے ایک قسم کی عملی یادداشت ہے جو سیشن کے دوران مکالموں، دستاویزات اور دیگر معلومات کو ٹریک رکھتی ہے۔
جب صارفین مدل میں زیادہ معلومات ڈالتے ہیں تو میموری کی ضرورتیں بڑھ جاتی ہیں۔ ٹیذر نے کہا کہ تقریباً 262,000 ٹوکنز کو پروسیس کرنے والے 4 ارب پیرامیٹر مدل کے لیے صرف کیش کے لیے تقریباً 8 جیگا باٹ میموری کی ضرورت ہو سکتی ہے۔ اس سطح پر کئی سیشنز چلانا بہت سے لیپ ٹاپ اور صارفین کے ڈیوائسز کی حدود کو جلد پار کر دے گا۔
ٹربوکوئنٹ اس دباؤ کو کم کرنے کا مقصد رکھتا ہے۔ ٹیٹر کے مطابق، یہ ٹیکنالوجی KV کیش میموری کی ضرورت کو تقریباً پانچ گنا تک کم کر سکتی ہے جبکہ تقریباً ایک جیسی آؤٹ پٹ کی معیار برقرار رکھتی ہے۔ نتیجہ طور پر، صارفین لمبے مکالموں، بڑے دستاویزات اور بڑے کوڈ بیسز کے ساتھ کام کر سکتے ہیں بغیر دور دراز کمپوٹنگ وسائل پر زیادہ انحصار کیے۔
QVAC زبانی ماڈلز سے آگے بڑھ گیا
اپڈیٹ صرف میموری میں بہتری تک محدود نہیں ہے۔ QVAC SDK 0.12.0 میں کئی نئے ٹولز شامل کیے گئے ہیں جو ڈویلپرز کو مقامی ڈیوائسز پر چلنے والی چیزوں کو وسعت دینے کے لیے ڈیزائن کیے گئے ہیں۔
اضافات میں وان 2.1 ماڈل کے ذریعے متن سے ویڈیو جنریشن کی سپورٹ شامل ہے۔ پلیٹ فارم ایک ویژن-زبان-اکشن خصوصیت بھی متعارف کرائے گیا ہے جو ڈویلپرز کو روبوٹک کنٹرول کے لیے ایپلیکیشنز بنانے کی اجازت دیتی ہے۔
اس ریلیز میں ایک ہلکا پھلکا تصویر طبقہ بندی ٹول بھی شامل ہے جو ان کاموں کے لیے ڈیزائن کیا گیا ہے جن کے لیے بڑے ویژن ماڈلز کی ضرورت نہیں ہوتی۔ اسی دوران، QVAC نے اپنے ٹیکسٹ-ٹو-اسپیچ اور ٹرانسکرپشن سسٹمز کو اپنے GGML انجن پر منتقل کر دیا، جس میں بڑے دیسک ٹاپ اور موبائل آپریٹنگ سسٹمز پر سپورٹ میں اضافہ ہوا ہے۔
ڈویلپرز کو کوڈنگ اسسٹنٹس کے لیے نئے آپشنز بھی حاصل ہوئے۔ QVAC اب مدل مینجمنٹ اور ڈیپلومنٹ کو آسان بنانے والے پرووائیڈر پیکیج کے ذریعے OpenCode اور OpenClaw کے ساتھ اندراگ ہو گیا ہے۔
متعلقہ: مُلتی کوائن کے ملکیٹر نے کرپٹو شناخت کے بحران کے دوران 'ویب3 مردہ ہے' کا اعلان کردیا
اوپن سورس AI کنارے کی طرف قریب آ رہا ہے
ریلیز ٹیذر کے اس توجہ کو ظاہر کرتا ہے کہ وہ صارفین کے ڈیوائسز پر زیادہ سے زیادہ کمپیوٹنگ کاموں کو براہ راست چلانے پر زور دے رہا ہے، مکمل طور پر مرکزی ڈیٹا سینٹرز پر انحصار کیے بغیر۔ کمپنی نے ایسے سافٹ ویئر پر زیادہ توجہ دی ہے جو ذاتی ڈیوائسز، مقامی نیٹ ورکس اور غیر مرکزی نظاموں پر کام کر سکے۔
"گوگل کے تحقیق نے ظاہر کیا کہ AI میموری کو زیادہ موثر طریقے سے دبایا جا سکتا ہے جس سے زیادہ لوگوں نے سوچا تھا۔ ہمارا کام اس کامیابی کو ایسے پیداواری سافٹ ویئر میں لایا ہے جسے ڈویلپرز، اسٹارٹ اپس اور صارفین حقیقی طور پر بناسکتے ہیں،" اردونو نے کہا۔
اس نے کہا، “لوگوں کو ایک AI اسسٹنٹ سے ایک لمبا دستاویز پڑھنے، ایک منصوبے کو یاد رکھنے، کوڈ میں مدد کرنے، یا پرائیویٹ معلومات کے ساتھ کام کرنے کی اجازت ہونی چاہیے، بغیر ہر کام کو ریموٹ ڈیٹا سینٹر سے گزارے جانے کے۔”
یہ لانچ اس وقت آ رہا ہے جب ٹیذر اپنی کوششیں صرف میموری آپٹیمائزیشن ٹولز تک محدود نہیں رکھ رہا۔ ارڈونو نے حال ہی میں کمپنی کے ایک اوپن سورس پیر تو پیر سرچ انجن کے ترقی کا انکشاف کیا اور ایک ڈی سینٹرلائزڈ وکیپیڈیا سرچ سسٹم کا ڈیمو شیئر کیا۔
متعلقہ: مائیکل برسی نے نوویدا کے 5.4 ارب ڈالر کے GPU معاہدے کو 'فگازی' کہا
عہد نامہ: اس مضمون میں پیش کی گئی معلومات صرف معلوماتی اور تعلیمی مقاصد کے لیے ہیں۔ اس مضمون میں مالی مشورہ یا کسی بھی قسم کا مشورہ شامل نہیں ہے۔ کوئن ایڈیشن ان کسی نقصان کے لیے ذمہ دار نہیں جو مذکورہ مواد، مصنوعات یا خدمات کے استعمال کے نتیجے میں ہو۔ پڑھنے والوں کو کمپنی سے متعلق کسی بھی کارروائی سے پہلے احتیاط کرنے کی تجویز کی جاتی ہے۔