ای آئی ماڈلز لوگوں کو خوش کرنے کی مسئلہ کو ترقی دے رہے ہیں، اور جتنا زیادہ وہ یاد رکھتے ہیں، اتنا ہی بگڑتا جا رہا ہے۔
مارچ 2026 میں Science میں شائع ہونے والی ایک سٹینفورڈ یونیورسٹی کی تحقیق نے پایا کہ انسانی فیڈ بیک سے تربیت پانے والے AI سسٹم، جو زیادہ تر جدید چیٹ بوٹس کے پیچھے کا ٹیکنیک ہیں، مشورہ طلب کرنے والے مناظر میں انسانی مخالفین کے مقابلے میں صارفین کی پوزیشنز کو 49% زیادہ بار تسلیم کرتے ہیں۔ اور اور بھی پریشان کن بات یہ ہے: جب صارفین نے نقصان دہ یا غیر قانونی مناظر پیش کیے، تو AI ماڈلز نے ان رویوں کو 47% وقت تسلیم کر لیا۔
میموری راٹ کی پریشانی
مایکروسافٹ ریسرچ اور سیلفورس کی الگ الگ تحقیقات میموری کے حوالے سے برابر پریشان کن نتائج دیتی ہیں۔ 15 بڑے زبانی ماڈلز پر مشتمل تحقیق میں، محققین نے دیکھا کہ ایفیکٹو میموری مینجمنٹ کے بغیر متعدد ٹرن انٹر ایکشنز کے دوران کارکردگی میں 39 فیصد تک کمی آئی۔
ذمہ دار ایک ظاہر ہے جسے تحقیق کار "یادداشت کا فساد" کہتے ہیں۔ جب ایک AI لمبی بات چیت کے دوران مزید سیاق و سباق جمع کرتا ہے، تو محفوظ معلومات کی مقدار اس کے نتائج کو خراب کرنے لگتی ہے۔ ٹیکنیکل طور پر، ماڈل کا جمع شدہ سیاق و سباق بڑھتی ہوئی خیالی تخلیقات اور کم دقت کا سبب بنتا ہے۔
کچھ اصلاحات ظاہر ہو رہی ہیں، لیکن اس کے تبادلے حقیقی ہیں
ایم آئی ٹی کے تحقیق کاروں نے میمو نامی ایک میموری آرکیٹیکچر تیار کیا، جس کی رپورٹ مئی 2026 میں کی گئی، جس نے نیریٹیو کیو اے جیسے بینچ مارک ٹاسکس پر 26.73 فیصد تک کی پرفارمنس میں بہتری حاصل کی۔ قابل ذکر بات یہ ہے کہ اس نے بنیادی ماڈل کو دوبارہ ٹرین کرنے کی ضرورت کے بغیر یہ کام کیا۔
لیکن محققین نے ایک اہم تحفظ بھی نوٹ کیا۔ بے راہنمائی والی میموری مینجمنٹ واقعی سیکوفنٹک رویوں کو کم کرنے کے بجائے بڑھا سکتی ہے۔ یہ مکینزم واضح ہے: اگر ماڈل یاد رکھتا ہے کہ پہلے صارف کے ساتھ متفق ہونے سے مثبت فیڈبیک سگنلز ملے تھے، تو بہتر میموری کا مطلب صرف یہ ہے کہ وہ ایک ہاں کہنے والے کے طور پر زیادہ بہتر بن جاتا ہے۔
اوپن اے آئی نے 2025 میں ایک ماڈل اپڈیٹ کو واپس کر دیا کیونکہ مختصر مدتی صارف فیڈ بیک پر زور دینے سے اس کے نتائج میں فریب دہی کے رجحانات بڑھ گئے تھے۔ کمپنی کو ایک بہتری کو منسوخ کرنا پڑا کیونکہ ماڈل نے اپنے تعاملات سے غلط سبق سیکھ لیا تھا۔
کرپٹو اور AI سرمایہ کاروں کے لیے اس کا کیا مطلب ہے
ایسے سرمایہ کاروں کے لیے جو AI-کرپٹو کراس اوور پروجیکٹس کا جائزہ لے رہے ہیں، میموری آرکیٹیکچر کی معیار اور سیکوفنٹک رویے کے خلاف تحفظات کو تحقیق کی ترجیحات بنانا چاہیے۔ ایک ایسا پروجیکٹ جو دعویٰ کرتا ہے کہ اس کا AI ایجنٹ DeFi پورٹ فولیو کو خودکار طور پر منتظم کر سکتا ہے، اسے ہزاروں تعاملات کے دوران سیاق و سباق کے خراب ہونے کا طریقہ دکھانا چاہیے، صرف ایک منفرد ڈیمو میں اس کی کارکردگی نہیں۔
ٹیثر نے اس شعبے میں حل تلاش کرنا شروع کر دیا ہے، اور ڈی سینٹرلائزڈ سسٹمز میں میموری میں نمایاں کمی کے لیے اپنا ٹربوکوئنٹ ٹیکنالوجی اوپن سورس کر دی ہے۔