ٹیذر AI نے تھربوکوانت کو اوپن سورس سافٹ ویئر کے طور پر جاری کر دیا ہے، جو بڑے زبان ماڈل کی انفرنس کے لیے میموری فٹ پرنٹ کو تین تک پانچ گنا تک کم کرتا ہے۔ یہ ٹیکنالوجی ایک خاص بٹل نیک کو ہدف بناتی ہے جسے کی-ولیو (KV) کیش کہا جاتا ہے، جو ترانسفارمر ماڈلز کے لیے مکالمے کے دوران سیاق و سباق کو ٹریک رکھنے کے لیے استعمال ہونے والی ورکنگ میموری ہے۔
ٹربوکوانت اصل میں کیا کرتا ہے
ٹربوکوانت کے پیچھے کا الگورتھم گوگل ریسرچ سے ماخوذ ہے، جس نے ابتدائی تفصیلات 24 مارچ، 2026 کو شائع کیں۔ ٹیذر AI نے اس تحقیقی مقالے کو ایسی چیز میں تبدیل کر دیا ہے جسے ڈویلپرز حقیقی پروڈکشن میں ڈپلوی کر سکتے ہیں۔ ٹیذر کی ریلیز میں ایک مکمل کوانتائزیشن پائپ لائن، فریم ورک ایڈاپٹرز، اور مکمل دستاویزات شamil ہیں۔
کوانتائزیشن ایک ٹیکنیک ہے جو نیورل نیٹ ورک کے حسابات میں استعمال ہونے والی تعدادوں کی درستگی کو کم کرتی ہے۔ اقدار کو 16 بٹ یا 32 بٹ فلوٹنگ پوائنٹ نمبر کے طور پر محفوظ کرنے کے بجائے، آپ انہیں 4 بٹ یا حتیٰ کہ 2 بٹ کے رپریزنٹیشن میں دبائیں۔ ٹربوکوانت اسے خاص طور پر KV کیش کے لیے سنبھالتا ہے۔
کسی بھی ماڈل کی دوبارہ تربیت یا فائن ٹیوننگ کی ضرورت نہیں۔ ڈویلپرز مexisting ماڈلز اور موجودہ انفرنس فریم ورکس پر ٹربوکوانت لاگو کر سکتے ہیں بغیر کچھ نئے سے شروع کیے۔
یہ ریلیز QVAC SDK ورژن 0.12.0 کے حصے کے طور پر آئی، جس میں ٹیکسٹ توس ویڈیو جنریشن اور روبوٹ کنٹرول جیسی نئی صلاحیتیں بھی شامل ہیں۔ QVAC ٹیذر کا وسیع تر پلیٹ فارم ہے جو صارفین کے ہارڈویئر پر ڈی سینٹرلائزڈ AI کو سپورٹ کرنے کے مقصد سے بنایا گیا ہے۔
ایک اسٹیبل کوائن کمپنی AI انفراسٹرکچر کیوں بنارہی ہے
ٹیذر نے اپنے USDT اسٹیبل کوائن کے باہر جلدی سے توسیع کی ہے، اور AI اس کی سب سے بڑی سرمایہ کاری میں سے ایک ہے۔ سی ای او پاؤلو ارڈونو نے کمپنی کے AI کے اقدامات کو ایک خاص تصور کے گرد مرکوز کیا ہے: کہ اعلیٰ معیار کے زبانی ماڈلز صارفین کے ڈیوائسز جیسے فونز اور لیپ ٹاپس پر مقامی طور پر چلنا چاہئیں، مرکزی بادل سروسز پر انحصار کی بجائے۔
یہ یادداشت کا مسئلہ اس خیال کا بنیادی رکاوٹ ہے۔ ایک مدل جسے اس کے KV کیش کے لیے صرف 16 جیگا باٹ کی یادداشت درکار ہے، وہ زیادہ تر صارفین کے ڈیوائسز پر فٹ نہیں ہوگا۔ اسے 3.2 جیگا باٹ تک کم کر دیں تو اچانک ریاضی کام کرنا شروع ہو جاتی ہے۔
ارڈونو نے زور دیا ہے کہ ٹرuboQuant، ٹرانسفارمر ماڈلز کے صارفین کے ہارڈویئر پر میموری کے پابندیوں کو دور کرکے موثر مقامی AI کو حقیقت کے قریب لاتا ہے۔
QVAC پلیٹ فارم کئی پہلے کے کوانتائزیشن ٹیکنیکس، جیسے کہ PolarQuant اور Quantized Johnson-Lindenstrauss پر مبنی ہے۔ ٹیذر کی AI ٹیم نے کئی کمپریشن طریقے ایک دوسرے کے اوپر جمع کیے ہیں، جن میں سے ہر ایک کارکردگی کے مسئلے کے مختلف پہلوؤں کو ہدف بناتا ہے، اور TurboQuant اس سٹیک کا تازہ ترین لییر ہے۔
اس کا سرمایہ کاروں کے لیے کیا مطلب ہے
ریلیز کا اوپن سورس طبع کا مطلب ہے کہ کوئی بھی ڈویلپر کوڈ حاصل کر سکتا ہے، اسے اپنی انفرنس پائپ لائن میں اندراج کر سکتا ہے، اور فوری طور پر میموری کی بچت سے فائدہ اٹھا سکتا ہے۔ یہ QVAC کے ایکو سسٹم کو بڑھانے اور ٹیتر کے پلیٹ فارم کو ڈی سینٹرلائزڈ AI ایپلیکیشنز کے لیے ڈیفالٹ ٹول کٹ بنانے کا ایک حکمت عملی اقدام ہے۔
گوگل ریسرچ نے بنیادی الگورتھم شائع کیا۔ گوگل خود، یا کوئی بھی اچھی طرح سے وسائل سے لیس لیب، اپنا پروڈکشن ایمپلیمنٹیشن جاری کرنے سے کچھ نہیں روکتا۔ ایک ہی ایس ڈی کے اپڈیٹ میں ٹیکسٹ-ٹو-ویڈیو اور روبوٹ کنٹرول فیچرز کا شامل ہونا یہ ظاہر کرتا ہے کہ ٹیم تیزی سے ترقی کر رہی ہے۔
دیکھیں کہ کیا انڈیپینڈنٹ بینچ مارکس 5x کمپریشن کا دعویٰ مختلف ماڈل آرکیٹیکچرز اور کنٹیکس لمبائیوں پر سچ ثابت کرتے ہیں، کیونکہ کوانتائزیشن ٹیکنیکس کبھی کبھار لمبی بات چیت یا زیادہ پیچیدہ استدلال کے کاموں میں عملی استعمال میں خراب ہو جاتی ہیں۔