ای آئی کے ذریعہ تیار کردہ خلاصہ: فلوریڈا یونیورسٹی کی ٹیم نے حال ہی میں ثابت کیے گئے تین بعد کے گیولی کے تخمن کو بڑے ماڈل ٹریننگ میں لاگو کرتے ہوئے GeoLAN طریقہ کار تیار کیا ہے جو ای آئی کے "بلاک باکس" مسئلے کو حل کرتا ہے۔ یہ طریقہ کار گیولی کے تخمن کے ثبوت سے نکلنے والے "چپکنے والے گیولی سیٹ" کے تصور کا استعمال کرتا ہے تاکہ بڑے ماڈل کے سیمانٹک سپیس پر جیومیٹرک پابندیاں عائد کی جائیں اور تربیت کے مراحل سے ہی مفہوموں کو منظم کیا جائے، جس سے ای آئی کے سوچنے کے راستے قابلِ رجوع بن جاتے ہیں۔ تجربات Llama-3-8B، Gemma-3-4B جیسے ماڈلز پر نمایاں بہتری حاصل کرتے ہیں۔ اس کے علاوہ، موجودہ فیلڈز میڈل حاصل کرنے والے جیکب ٹسمرمن نے اپنے انعام حاصل کرنے کے دن ہی OpenAI میں AI سکیورٹی کے لیے شامل ہونے کا اعلان کیا، جو ریاضی اور AI کے اب تک کے سب سے زیادہ تیز رفتار ادغام کو ظاہر کرتا ہے۔

مضمون کے مصنف، ذریعہ: Leifengwang

ریاضی کی دنیا اور AI کی دنیا نے مضبوطی سے جڑ لیا ہے

سطح کی صرف ریاضیاتی کامیابیاں، براہ راست بڑے ماڈل تربیت کی سطح پر لاگو ہو چکی ہیں۔

ایک چائنا ریڈڈ یوزر Z9 نے ایک تحقیقی مقالہ پڑھتے ہوئے دریافت کیا کہ تازہ ترین ورلڈ وائڈ وائرل 3D گولڈبیرگ کانجیکچر کو فلوریڈا یونیورسٹی کی ٹیم نے نیورل نیٹ ورک ٹریننگ پروسیجر میں شامل کر دیا ہے، جس سے بڑے ماڈلز کا "بلاک باکس" مسئلہ عبوری طور پر حل ہو گیا ہے۔

ان کا مقالہ "GeoLAN: Geometric Learning of Latent Explanatory Directions in Large Language Models" ہے، جس کا مرکزی نقطہ بڑے زبانی ماڈلز کے اندری معنائی فضا کے لیے "چپکنے والی گوہا مجموعہ" نامی مرکزی تصور کا استعمال کرنا ہے، جو گوہا کے تخمن کے ثبوت سے نکلا ہے، تاکہ تربیت کے دوران ایک دوسرے میں پیچھے ہوئے تصورات کو سیدھا کیا جا سکے اور AI کے خیال کے راستے حقیقی طور پر قابلِ رجوع بن جائیں۔

بیشک، پیچھے ریاضی کے ماہرین نے نئی زمینیں کھولیں، اور اب AI تحقیق کاروں نے خزانے ڈھونڈ لیے۔

بڑے ماڈل کی بنیادی خرابی: نمائندگی کا زوال

سب سے پہلے اس "بلاک باکس مسئلے" کی بات کرتے ہیں جس کا احساس تمام لوگوں کو ہے۔

اب کے بڑے ماڈلز، سوالات کے جوابات دینا، کوڈ لکھنا اور تجزیہ کرنا بہت اچھی درجہ بندی کے ساتھ کرتے ہیں، لیکن اگر آپ پوچھیں "یہ قدم کیسے سوچا گیا؟" تو وہ یا تو اسے واضح نہیں کر سکتے، یا پھر آپ کو ایک جھوٹا وجوہات بنا کر بھٹکا دیتے ہیں۔

اس سوال کی جڑ، ایک "ریپریزینٹیشن کالیپس" نامی بنیادی خصوصیت میں چھپی ہوئی ہے۔

آپ بڑے ماڈل کے سیمانٹک اسپیس کو ایک ہزاروں لیئرز کے بہت بڑے انتہائی ذہین اسٹور کی طرح تصور کر سکتے ہیں، جس میں نظریاتی طور پر لاکھوں تصورات کو الگ الگ کیٹیگریز میں رکھا جا سکتا ہے: منطق، جذبات، حقائق، استدلال وغیرہ۔

لیکن ٹرانسفارمر کی تربیت کے دوران وہ خاص طور پر "آلفٹ کرتا ہے"، وہ ہر معنی کی معلومات کو صرف ایک چھوٹے سے علاقے میں جمع کر دیتا ہے اور باقی 90 فیصد جگہ خالی رکھ دیتا ہے۔

نتیجہ یہ ہوا کہ تمام تصورات ایک تنگ، اعلیٰ ڈیمینشنل کون میں دب گئے، جسے اکادمیا "اینیسوٹروپک" کہتی ہے۔

اور گھنٹے کا نتیجہ بہت سے مسائل کا سبب بنے گا۔

مثلاً، مفہومی پیچیدگی ایسی چیزوں کو ایک ہی سمت میں زبردستی ڈالتی ہے جن کے درمیان کوئی تعلق نہیں، جس سے ایک نیورون کو "بلی" کے لیے جواب دینا ہو اور "کتاب مقدس کے آیات" کو بھی فعال کرنا ہو۔

اور آپ بالکل نہیں جانتے کہ کون سا نمائندگی حصہ کس منطقی سلسلے سے متعلق ہے، اور مدل خود بھی حقیقی سوچ کا راستہ دوبارہ نہیں بناسکتا۔

جب قریب لیکن مختلف مفہوموں کو ایک جگہ پر دبا دیا جائے، تو اس سے آسانی سے الجھن پیدا ہو سکتی ہے، اور سوال کو تھوڑا بدل دیا جائے تو AI آسانی سے بے راہ گفتگو کرنا شروع کر دیتا ہے۔

اس کے لیے مقالے میں ایک بہت درست خلاصہ ہے، کچھ ہی "بے رحم ابعاد" زیادہ تر معلومات کی واریئنس پر قبضہ کر لیتے ہیں اور ماڈل کی موثر صلاحیت کو بالکل ضائع کر دیتے ہیں۔

یہ مسئلہ GPT، Llama اور Gemma سمیت تمام پرکشش ٹرانسفارمر آرکیٹیکچرز کا عام مسئلہ ہے۔

اس صورتحال کے سامنے، صنعت کے پہلے حل عام طور پر "بعد میں درست کرنا" تھے، جب ماڈل ٹریننگ مکمل ہو جائے، تو نایاب خود کوڈر جیسے ٹولز کا استعمال کرکے اکٹھے ہوئے تصورات کو جبری طور پر الگ کیا جاتا تھا۔

لیکن اس طریقہ کار سے حاصل ہونے والے نتائج صرف “منطقی لگتے ہیں”، ان کا مطابقت مدل کے اندر کے حقیقی منطق سے نہیں ہوتا، اور اصلیت ہمیشہ کم ہوتی ہے۔

اب، جیو لین کا خیال براہ راست تبدیل ہو گیا: انتظار نہ کریں کہ گڑبڑ ہو جائے پھر ترتیب دیں، شروع سے ہی اصولوں کے مطابق ڈال دیں۔ پورے تربیت کے دوران تصوراتی فضا میں جیومیٹرک پابندیاں شامل کریں تاکہ ہر مفہوم اپنی جگہ پر ہو۔

گاے گس کا خیال AI سے کیسے جُڑتا ہے؟

جیو لین کے خیال کو سمجھنے کے لیے، پہلے یہ جاننا ضروری ہے کہ گاے گیس کیا کہتی ہے۔

1917 میں، ریاضیدان گویا سوئیچی نے ایک ایسا سوال پوچھا جو ظاہری طور پر آسان لگتا تھا لیکن ریاضی کی دنیا کو پانچ دہائیوں تک پریشان رکھا: ایک 1 سینٹی میٹر لمبی سوئی کو میز پر ایک پورا چکر لگانے کے لیے، اس کے ذریعہ کاٹے گئے رقبے کا کم سے کم سائز کتنा ہو سکتا ہے؟

آپ سوچ سکتے ہیں کہ ایک چکر لگانے کے لیے ضرورت ہے کہ ایک دائرہ بنائیں، جس کا رقبہ کم نہیں ہوگا۔ لیکن ریاضیدانوں نے پایا کہ اسے تقریباً 0 تک لے جایا جا سکتا ہے۔

یہ کیسے کیا جاتا ہے؟

اگر آپ سوئی کو ایک طرف گھماتے ہوئے کھسکائیں، تو وہ ایک ایسا عجیب و غریب شکل بناتی ہے جس کا رقبہ تقریباً صفر ہوتا ہے۔ یعنی دو بعدی دنیا میں، آپ تمام جیومیٹرک راستوں کو ایک بہت چھوٹے کونے میں سما سکتے ہیں۔

چیلنج مزید بڑھ گیا، اگر تین بعدی فضا میں؟ جب یہ سوئی تھوڑی، بہت، اور لاکھوں تین بعدی سمتیں میں گھوم سکتی ہو، تو ان تمام سمتیں والی سوئیوں کو ایک فضا میں ڈالنے کے لیے اس فضا کو کم از کم کتنا بڑا ہونا چاہیے؟

دو بعدی تجربے کے مطابق، تین بعدی فضا میں، اس شکل کا مطلق حجم صفر کے قریب دبایا جا سکتا ہے۔

لیکن یہاں ایک نیا راز پیدا ہوا: یہ شکل جو خالی اور بلا حجم ہے، کیا مائیکرو سطح پر بھی سکڑ گئی یا خراب ہو گئی؟ ریاضیدانوں نے اس کی ہڈی کی گنجائش کو ناپنے کے لیے "فریکٹل ڈیمنشن" متعارف کرایا۔

آخر میں وانگ ہونگ اور دیگر نے پایا کہ جب تک آپ گراف کے حجم کو کتنا ہی خالی نہ کر لیں، ہر سمت کے سوئوں کو مدنظر رکھتے ہوئے، اس کے اندر کا ڈھانچہ اب بھی مضبوطی سے "تین ڈی بھرپوری" برقرار رکھتا ہے، مائیکرو سطح پر کوئی کمی نہیں آتی۔ یہی وانگ ہونگ کی صدی کے مسئلے کو حل کرنے کی عظیم بات ہے۔

اس سخت ثبوت کے عمل کے دوران، "چپکنے والی گوہا سیٹ" نام کا ایک انتہائی اہم تصور پیدا ہوا۔

"چپکنے والا" کا مطلب ہے ایک مجموعہ ایسے قوانین جو ڈھانچوں اور پائپوں کو ایک دوسرے کے قریب آنے سے روکتے ہیں۔

اگر ایک گروہ کے پائپوں نے ان قواعد کی پابندی کی، تو وہ اچھی طرح سے بکھر جائیں گے اور جگہ جتنا بڑی ہونی چاہیے وہی رہے گی؛ لیکن اگر وہ قواعد کی پابندی نہ کریں اور سب ایک چھوٹے سے کونے میں جما ہو جائیں، تو جگہ کا "سائز" کم ہو جائے گا اور دیکھنے میں دباؤ کے باعث پیچھے ہٹا ہوا لگے گا۔

یہاں تک دیکھنے کے بعد آپ کو یہ سمجھ آ گیا ہوگا: بڑے ماڈل کی نمائندگی کا کرنش، کیا نہیں ہے "سمینٹک پائپ کا وسکوسٹی شرط پورا نہ کرنا اور سب کچھ ایک جگہ جما دینا"؟

جیو لین نے گُل کے تخمن کے ریاضیاتی نتائج کو براہ راست انجینئرنگ معیار کے طور پر استعمال کیا: چونکہ ریاضیاتی طور پر ثابت ہو چکا ہے کہ "چپکنے والی، خلائی تھوڑی پڑنے والی" شرط پوری ہوتی ہے، اس لیے ہم بڑے ماڈل کے سیمانٹک خلائے میں بھی اسی قسم کی چپکنے والی پابندی شامل کرتے ہیں، تاکہ اس کا نمائندگی خود بخود اکٹھا نہ ہو جائے۔

اس قاعدے کو تربیت کے عمل میں شامل کرنا، اس کا مرکزی مقصد ایک قابلِ کیفیت پیشگوئی فنکشن تیار کرنا ہے، یعنی ایک ایسا پیشگوئی قاعده جسے ماڈل حساب لگا سکے اور یہ جان سکے کہ کیسے تبدیل کرے۔

پھر، جیو لین نے دو قسم کے گنتی کے سزا کے قوانین ڈیزائن کیے، جنہوں نے گیومیٹرک رولز کو ٹریننگ ہدف میں تبدیل کر دیا۔ ایک کا نام KT-CW ہے، جو "سمینٹک کلسٹرنگ" کا علاج کرتا ہے؛ دوسرا KT-Attn ہے، جو "توجهہ کی آرام دہی" کا علاج کرتا ہے۔

KT-CW کا مختصر طریقہ یہ ہے کہ تربیت کے دوران، معنیاتی فضا کے مختلف رخوں کو تصادفی طور پر چیک کیا جاتا ہے۔ اگر کسی رخ پر بہت زیادہ معنیاتی معلومات جمع ہو رہی ہوں، تو ماڈل کو نمبر کٹوتی دی جاتی ہے۔ اس سے ماڈل کو مجبور کیا جاتا ہے کہ وہ اپنی معلومات کو مکمل اعلیٰ ڈائیمنشنل فضا کے ہر کونے میں مساوی طور پر پھیلائے، اور پہلے ضائع ہونے والے ڈائیمنشنز کو مکمل استعمال کرے، تاکہ “ایک جگہ جم جانے” کا مسئلہ جڑ سے حل ہو سکے۔

دوسرا KT-Attn مجموعہ توجہ کے مکمل طریقے کو حل کرتا ہے۔ تربیت کے آخری مراحل میں بڑے ماڈل کے توجہ ہیڈز عام طور پر شدید ہم جنسیت میں پھنس جاتے ہیں، جہاں بہت سے ہیڈز صرف ایک ہی لفظ اور ایک ہی جگہ پر گھومتے رہتے ہیں، جبکہ موثر کام کرنے والے طاقتور ہیڈز بہت کم ہوتے ہیں۔ یہ قاعدہ ہر توجہ ہیڈ کو بالکل مختلف معنیاتی علاقوں پر توجہ مرکوز کرنے کا حکم دیتا ہے، تاکہ توجہ تمام سمتوں پر پھیل سکے اور توجہ ہیڈز کے رینک کولیپس کا مکمل طور پر خاتمہ ہو جائے۔

اس کامبینیشن کے بعد اثر فوراً نظر آنے لگا۔

Llama-3-8B پر، GeoLAN نے اصل میں دبے ہوئے کونیکل ریپریزینٹیشن اسپیس کو گول شکل میں تبدیل کر دیا، جس سے اکٹھے ہونے کا درجہ کافی حد تک کم ہو گیا، تمام سمتیں میں یکساںی میں نمایاں بہتری آئی، جبکہ انجن کی درستگی برقرار رہی۔

Gemma-3-4B پر، MMLU کی درستگی 0.59 سے بڑھ کر 0.60 ہو گئی، جو تقریباً 0.75 فیصد کا اضافہ ہے۔ TruthfulQA کی معنائی استحکام میں نمایاں بہتری آئی۔

بڑے سائز کے Gemma-3-12B پر، پہلے سے زیادہ احصائی طور پر واضح کمی آئی ہے۔

زیادہ دلچسپ بات یہ ہے کہ تحقیقی مقالہ نے "گولڈیلوکس زون" نامی ایک دلچسپ ظاہری پیداوار کا پتہ لگایا۔

یعنی، یہ سخت جیومیٹرک پابندیاں جو ایک یکساں تقسیم کرتی ہیں، بہت کم پیرامیٹرز والے ماڈلز کے لیے برعکس ایک آفت ہیں؛ چھوٹے ماڈلز کو اپنے جذبے کو انتہائی طور پر سیمینٹک کمپریشن کے لیے مفہوموں کے گڑبڑ کے ذریعے حاصل کرنے کی ضرورت ہوتی ہے، اور انہیں جبری طور پر الگ کرنا ان کی اندر کی جیومیٹرک ساخت کو مکمل طور پر خراب کر دے گا۔

اور بہت بڑے ماڈلز کے لیے، وسیع پری ٹریننگ عمل خود بخود بہت پیچیدہ مینیفولڈ سٹرکچر بناتا ہے، اس قاعدہ کو مزید شامل کرنا نہ صرف مناسب نہیں ہوگا بلکہ کل پرفارمنس کو بھی کم کر دے گا۔

صرف چار سے اسٹی بیلین پیرامیٹرز جیسے درمیانی سائز کے ماڈلز ہی ایک یکساں تقسیم سے حاصل ہونے والے فوائد کو جذب کرنے کے لیے درست مقدار میں جگہ رکھتے ہیں، جس سے ان کا اثر بہتر ہوتا ہے۔

اس کے علاوہ، مقالہ ایک ظریف تھیورم، "سمینٹک اسٹکینس تھیورم" کو استنباط کرتا ہے: جب ریپریزینٹیشن "کریش رول" کو پورا کرتی ہے، تو مختلف سمینٹک کانسپٹس خودبخود تقریباً آپس میں عمودی ذیلی خلائوں میں تقسیم ہو جاتے ہیں، جنہیں مقالہ "گرینز" کہتا ہے۔ ہر ذیلی خلا الگ طور پر وضاحت اور الگ طور پر ایڈجسٹ کیا جا سکتا ہے، جس سے صنعت کے لیے سالوں تک ایک چیلنج بنے رہنے والے بلاک باکس مسئلہ اب شفاف ہو جاتا ہے۔

ایک ACL کا مقالہ، گُویا گُویا کے تخمن کو صرف ریاضی کے مقدس گھر سے نکال کر AI انجینئرنگ میں لے آیا۔

فیلڈز میڈل وصول کنندہ، اسی دن OpenAI میں شامل ہونے کا اعلان کیا

ایک اور قابل ذکر بات یہ ہے کہ فیلڈز انعام یافتہ میں سے ایک بڑے ریاضی دان جیکوب تسیمرمن نے انعام جیتنے کے دن ہی اعلان کر دیا کہ وہ جلد ہی OpenAI میں AI سیکیورٹی کے شعبے میں شامل ہوں گے۔

یہ بات نہایت جدید ریاضی اور AI کے درمیان تنگ تعلق کو ظاہر کرتی ہے۔

ایک سال پہلے، اس نے برکلی کے AI سیفٹی ریسرچر اینڈریو کرچ کے ساتھ مل کر کا مقالہ "A Taxonomy of Omnicidal Futures Involving Artificial Intelligence" لکھا، جس میں ریاضیدان کی انتہائی سختی سے AI خطرات کے راستوں کے لیے ایک مضبوط طبقہ بندی تیار کی گئی۔

وہ خود AI کا بڑا فائدہ اٹھانے والا ہے، 2025 میں اس کی 5 ریسرچ پیپرز arXiv پر شائع ہوئیں، جس میں اس نے کہا کہ AI نے اس کی تحقیقی پیداوار کی صلاحیت کو براہ راست دوگنا کر دیا۔

مزید دلچسپ بات یہ ہے کہ انعام دینے کے تین دن پہلے، اس کا طالب علم لیونٹ الپوگے نے Anthropic کے نئے Claude Fable 5 کا استعمال کرتے ہوئے 87 سالوں سے معلق جیکوبی کا اندازہ ایک رات میں منسوخ کر دیا، جس سے عالمی ریاضی کی دنیا ہل گئی۔

AI کے لگاتار بڑھتے ہوئے اور ٹاپ ریاضیدانوں کی "بُدھی" کو پار کرنے کے باوجود، ریاضی کے بزرگ ٹائمز نے علنی طور پر کہا: یہ اس کی زندگی میں پہلی بار ہے کہ وہ بڑے زبان ماڈل کو اپنے مکمل طور پر ناپیدہ شعبے میں، مشہور صدی کے مسائل کو آسانی سے حل کرتے ہوئے دیکھ رہا ہے۔

ریاضی اور AI کا تعلق اب اس لفظ "�لگ نہ ہونے والا" سے بھی آگے نکل چکا ہے، وہ حیرت انگیز رفتار سے ایک دوسرے میں ادغام ہو رہے ہیں۔

گزشتہ سال AI کی ریاضی کے میدان میں کارکردگی کا جائزہ لیں، جس میں DeepMind کا AlphaProof نے بین الاقوامی ریاضیاتی اولمپیڈ میں چاندی کا تمغہ جیتا، OpenAI کا استدلال ماڈل نے ایک اڑھائی سال پرانے ارڈوس اونٹ ڈسٹنس کنجیکچر کو منسوخ کر دیا، GPT-5.6 نے صرف ایک گھنٹے میں سائکلک ڈبل کورنگ کنجیکچر حل کر لیا، اور Claude Fable 5 نے ایک رات میں جیکوبی کنجیکچر کو ختم کر دیا—AI نے صرف دو ماہ میں متعدد صدیوں کے ریکارڈ توڑ دیے، اور اس کی ترقی کی رفتار اب تھیس میں تیز ہو رہی ہے۔

ایم ایس انٹرویو میں جیکوب نے صاف صاف کہا، "ریاضی کے دنیا میں بہت ساری خود کو سکون دینے والی باتیں ہیں، جہاں لوگ دیکھتے ہیں کہ AI اب ریاضیدانوں سے کم ہے، اس لیے یہ نتیجہ نکالتے ہیں کہ یہ ہمیشہ ریاضیدانوں سے کم رہے گا۔" اس نے اپنے عمل سے ثابت کیا کہ جب چاہے مدل کے ثبوت "ناقص اور غیر سخت" ہوں، لیکن "عام طور پر وہ تقریباً صحیح طریقہ پیش کرتے ہیں جو آپ کو آٹھ فیصد راستہ طے کرنے میں مدد دیتے ہیں۔"

وہ یہ بھی سمجھتا ہے کہ دو سال کے اندر، AI ریاضی کے ثبوت میں انسانوں کو مکمل طور پر پیچھے چھوڑ دے گا۔

تو سوال یہ ہے کہ 2030 میں، چار سال بعد، فیلڈز انعام کا کوئی انسانی حاصل کنندہ ہوگا؟

فیلڈز انعام کا سخت عمر کا پابند ہے، جس کے تحت انعام یافتہ کی عمر 40 سال سے کم ہونی چاہیے۔ اس کا مطلب ہے کہ اگر AI مستقبل کے چار سالوں کے اندر نظام طور پر انسانی ریاضیدانوں کی اصلی دریافت کی صلاحیت کو پار کر جائے، تو جائزوں کی کمیٹی ایک بے مثال مشکل کا سامنا کرے گی: کیا آپ انعام وہ شخص کو دے رہے ہیں جس نے بہترین ریاضی کا کام کیا ہے، یا وہ شخص جس نے انسانوں میں بہترین ریاضی کا کام کیا ہے؟

مزید دلچسپ بات یہ ہے کہ ریاضی اور AI ایک دوسرے کو تیز کر رہے ہیں۔ تین بعدی گویا کا انحصار ابھی ثابت ہوا، اور تین ماہ بعد GeoLAN وجود میں آیا، جو صرف ریاضی کے نتائج کو براہ راست بڑے ماڈل ٹریننگ ٹول میں تبدیل کرتا ہے۔ آج فیلڈز انعام پر سراہا گیا André-Oort کا انحصار اور ہلبرٹ کا sixth مسئلہ، کل اس سے کون سی AI صلاحیتیں پیدا ہوں گی؟

پہلے ہمیشہ کہا جاتا تھا کہ ریاضیدان آگے جا کر نئے راستے بناتے ہیں، اور AI پیچھے آ کر ان کے پائے ہوئے خزانے اکٹھا کرتا ہے۔ لیکن اب، وہی جو خزانے اکٹھا کر رہا تھا، اب خود راستہ بنانے لگا ہے۔