"lol Opus 4.7 strawperry'de p harflerini sayamıyor" diyen herkes, LLM'lerin ve tokenizasyonun nasıl çalıştığını anlamadığını gösteriyor. İşte neden her model bu konuda başarısız oluyor ve mimari değişmedikçe her zaman başarısız olmaya devam edecek. LLM'ler harfleri değil, "straw" + "berry" gibi metin parçalarını (token'ları) görüyor. "Bu kelime içinde kaç tane p var?" diye sorduğunuzda, model girdisindeki bireysel karakterleri hiç görmemiş oluyor. Sayıyor değil, kalıplara dayanarak tahmin yapıyor. En iyi benzetme: Sadece dinlediği bir şarkının içinde C notasının kaç kez çalındığını sormak. Kişi, dörtlükten köprüye, havayı, türü, tempoyu söyleyebilir. Ancak bireysel notaları takip etmiyor. Müzik duyuyor, notasyon değil.