جو لوگ "lol Opus 4.7 strawperry میں p کی تعداد نہیں گن سکتا" کہتے ہیں، وہ صرف یہ ظاہر کر رہے ہیں کہ وہ LLMs اور ٹوکنائزیشن کے طریقہ کار کو نہیں سمجھتے۔ یہاں ہر ماڈل اس مسئلے میں کیوں ناکام ہوتا ہے اور یہ ہمیشہ ناکام رہے گا جب تک کہ آرکیٹیکچر تبدیل نہ ہو۔ LLMs حروف نہیں دیکھتے۔ وہ ٹوکنز دیکھتے ہیں — جیسے "straw" + "berry" جیسے متن کے چنکس۔ جب آپ پوچھتے ہیں "اس لفظ میں کتنے p ہیں؟" تو ماڈل نے اپنے ان پٹ میں الگ الگ حروف نہیں دیکھے۔ وہ نمونوں کے بنیاد پر اندازہ لگا رہا ہے، گنتی نہیں کر رہا۔ بہترین تشبیہ: کسی سے پوچھنا کہ اس گانے میں C نوٹ کتنی بار بجایا گیا؟ وہ آپ کو ورس اور کورس، موڈ، صنف، رفتار بتا سکتا ہے۔ لیکن وہ الگ الگ نوٹس کا پتہ نہیں لے رہا تھا۔ وہ موسیقی سنا، نوٹیشن نہیں۔