Andrej Karpathy, LLM'lerin Sürekli Öğrenmeyi Sağlaması İçin 10 Yıl Tahmin Ediyor

Son zamanlarda, "sürekli öğrenme" yönünde çalışan girişimleri ve araştırma sonuçlarını sıkça haberdar ettik; örneğin, "Mind Lab, LoRA'nın en son ilerlemelerini yayınladı, büyük modellerde sürekli öğrenme yeni bir paradigmaya doğru ilerliyor", "KV Cache zincirlerinden kurtulun, uzun bağlam ağırlıklara sıkıştırılıyor, sürekli öğrenme büyük modeller için umut verici mi?", "ICML 2026 | Sınır zorlanıyor! Hong Kong Üniversitesi, 300'den fazla görevi uyumlu ilk sürekli öğrenme mimarisini ortaya koydu, unutma sorununu çözdü", "Kabul edebilen DeepSeek Kendi kendini geliştiren Harness! LlamaFactory yazarı, 0,2 yuan ile otomatik Agent oluşturan yeni bir aracı açık kaynak hale getirdi. → «Büyümek tek yol değil, bir başka yerel model açık kaynak hale getirildi»...

Evet, oldukça yoğun; "sürekli öğrenme" de en sık karşılaştığımız anahtar kelimelerden biri haline geliyor. Ve bunun arkasında tekrar tekrar dile getirilen bir yargı yatıyor.

Ekim 2025'te Andrej Karpathy, Dwarkesh Patel'in podcast'inde şunu söyledi: "Mevcut büyük modellerin sürekli öğrenme yeteneği yok. Buna bir şey anlatıp, bunu hatırlamasını bekleyemiyorsunuz." Karpathy, bu bilişsel eksiklikleri gidermenin yaklaşık on yıl süreceğini düşünüyor. İki ay sonra, yıllık gözden geçirmesinde bu ifadeyi daha geniş bir bağlamda yerleştirdi: 2025 yılında model yeteneklerindeki sıçrama, doğrulanabilir ödülle güçlendirilmiş öğrenme (RLVR)'den kaynaklanıyordu; ancak tüm LLM teknoloji yığınında, hafıza, çoklu modallı algılama, sürekli öğrenme ve bilgisayar işleme yeteneği hâlâ açık eksikliklerdi: "Prototiplerimiz var, ancak bir meslektaş olarak kullanabileceğimiz bir agens henüz yok."

Sürekli öğrenme (Continual Learning, aynı zamanda ömür boyu öğrenme/Lifelong Learning olarak da bilinir), geçen yılın en popüler kavramlarından biri haline geldi.

Bu, modelin dağıtıldıktan sonra yeni görevlerden, yeni bilgilerden ve yeni deneyimlerden insanlar gibi sürekli olarak öğrenmesini ve daha önce öğrendiklerini unutmadan devam etmesini ifade eder.

Bu olay duyulduğunda açık gibi görünse de, uygulamak son derece zordur ve "AI meslektaşı" yolunda en sert kemik haline gelmeye yeterlidir. Yukarıdaki haberler de gösteriyor ki, bu yol artık tek bir yön değil, aynı anda ilerleyen birkaç ayrı yol.

Modelin "kullanırken öğrenmesini" nasıl sağlayacağımız etrafında, akademik ve endüstri dünyası bu yıl birbirinden tamamen farklı birkaç teknik yol oluşturdular. Bazıları modelin dışına bellek ekledi, bazıları ağırlıkları sürekli olarak değiştirdi, bazıları ise doğrudan yeniden ön eğitimi tercih etti; daha yeni bir grup ise "öğrenme" kavramını yeniden tanımlamayı amaçlıyor. Bu makale, bu yönleri tek tek açıp, her yolun neye bahis yaptığını ve nerede takıldığını açıkça anlatmayı amaçlıyor.

Öğrenimin sürekli olması için temel engelin özel bir adı vardır: felaketçi unutma. Sinir ağı bilgisi milyarlarca ağırlıkta saklanır; yeni verilerle modeli ince ayarladığınızda ve bu ağırlıkları güncellediğinizde, model yeni görevleri öğrenirken genellikle eski yetenekleri taşıyan parametreleri üzerine yazar ve önceki görevlerde performansı ani bir şekilde düşer.

Katastrofik unutma şeması. Yapay derin sinir ağları, iki görevi sırayla eğitildiğinde, ikinci görevi eğitirken ilk görevi hızla ve tamamen unutur.

Bu fenomen küçük modeller döneminde genişçe araştırılmıştı, ancak LLM'lerde yeni sorunlar ortaya çıktı. LLM'nin sürekli öğrenmesini değerlendirmek için özel olarak tasarlanan TRACE benchmark'ı, zaten hizalanmış bir model üzerinde sürekli ince ayar yapmanın, yalnızca eski görevleri unutmasına değil, aynı zamanda genel yetenekleri ve talimatları takip etme yeteneklerini de zarar verdiğini ortaya koydu. Başka bir deyişle, modele yeni bir şey öğretmek istiyorsanız, maliyeti modelin genel olarak daha aptal hale gelmesi ve daha az uygun hale gelmesi olabilir.

Ağırlıkları doğrudan değiştirmenin bu kadar büyük bir risk taşıdığı için, "sürekli öğrenme" birkaç akıma ayrıldı. Temel ayrılıkları, aslında "ağırlıkları değiştirmek mi değiştirmemek mi" ve "yeni bilgileri nerede saklamak" sorunlarına farklı yaklaşımlarla cevap vermekti.

En doğrudan ve en hızlı uygulanabilir yaklaşım, model ağırlıklarını değiştirmeden yeni bilgileri modelin dışındaki bir veritabanında saklamak ve gerektiğinde bağlam içine geri çekmektir. Bu yol, RAG (İnceleme ile Güçlendirilmiş Üretim)’den başlayarak şimdi özel bir alan haline gelmiştir: Ajan Hafızası.

Temel çalışma, MemGPT’dir (arkasındaki şirket şimdi Letta olarak adını değiştirdi). Bu çalışma, LLM’nin bağlam yönetimini bir işletim sisteminin bellek yönetimiyle karşılaştırır ve sınırlı bir “çalışma bağlamı” ile daha büyük bir “harici depolama” arasında ayrım yapar; böylece model, işletim sistemi gibi belleği yönlendirirken, neyin bağlama getirileceğini ve neyin arşivleneceğini kendi kendine karar verir.

Bu fikir doğrultusunda, her bir sistem farklı odaklanmalarla geliştirdi: Mem0, üretim seviyesinde ve ölçeklenebilir uzun vadeli bellek erişimini öne çıkardı; Zep, zaman serisi bilgi graflarını arama üzerine ekleyerek oturumlar arası zamanla ilgili çıkarımları işlemeyi sağladı; A-MEM, Zettelkasten not alma yönteminden ilham alarak her bir bellek kaydına yapılandırılmış etiketler atadı ve bunları ilgili eski kayıtlarla otomatik olarak ilişkilendirdi, böylece arama bağlama daha uygun hale geldi.

Karpathy, bu yöne kendi koyuşunu da gösterdi. Sürekli olarak, gelecekte daha büyük bir disk gibi bir belleğe değil, biraz B parametreyle yeterli olabilecek sade bir “bilişsel çekirdek” ve kendi kendini bileşenli bir dış bellek yapısına ihtiyaç duyulacağını vurguladı.

Bu fikir doğrultusunda, GitHub üzerinde "LLM Wiki" adlı bir model yayınladı: her sorguda RAG kullanarak orijinal metin bloklarını çekmek yerine, akıllı sistemlerin bilgileri sürekli güncellenen ve birbirine bağlı bir bilgi bankasına dönüştürmesini sağladıktan sonra bu bilgi bankasını sorguladı.

Karpathy'nin LLM Wiki belgesi yaklaşık 45.000 star ve 9.000'den fazla çatallanma aldı.

Letta, bu sistemi "token uzayında sürekli öğrenme" olarak yükseltti. Bugün yaygın uygulamanın, orijinal deneyimleri bağlam taşması kadar biriktirip ardından özetlemek olduğu vurgulandı; bu yaklaşım iki soruna sahiptir: birincisi, tüm temsil işini çıkarım aşamasına bırakır ve her ileri yayılımda orijinal günlükler yeniden işlenir; ikincisi, özetleme kayıplıdır ve ani olur, önemli ayrıntılar beklenmedik şekilde kaybolur. Letta'nın iddiası, token uzayında öğrenilen belleğin, model ağırlıklarından daha değerli olacak olmasıdır.

Bu yönün avantajları güvenli, kontrollü ve açıklanabilir olmaktır; hatalıysa her zaman silinebilir. Dezavantajı ise, temelde bilginin modele gerçekten dahil edilmediği, her seferinde arama ve bağlam adlı dar geçitten geçmek zorunda kalınmasıdır; bellek deposu büyüdükçe arama doğruluğu ve maliyeti bir darboğaza dönüşür.

Dış bellekten bir adım daha ileriye gitmek, ağırlıkları değiştirmeden modelin girdi bağlamını sürekli olarak geliştiren daha ince bir yaklaşımdır. Buna bağlam mühendisliği (Context Engineering) denir.

Ekim 2025'te Stanford, SambaNova ve UC Berkeley tarafından önerilen ACE (Agentic Context Engineering), bağlamı sürekli büyüyen bir “strateji kitabı” (playbook) olarak ele alır ve bunu üç ayrı rol tarafından sürdürürlür: Generator, akıl yürütme izlerini oluşturur; Reflector, başarı ve başarısızlıklardan somut deneyimler çıkarır; Curator ise bu deneyimleri yapılandırılmış artımsal güncellemelere dönüştürür ve kitabıyla birleştirir.

ACE, benzer yöntemlerin iki yaygın sorununu çözmeyi amaçlar. Birincisi, "kısalık önceliği" (brevity bias): LLM'nin bağlamı tekrar tekrar yeniden yazarken alan ayrıntılarını sıkıştırmaya ve atlamaya eğilimli olması; ikincisi, "bağlam çöküşü" (context collapse): Tekrarlı yeniden yazma, ayrıntıların yavaş yavaş kaybolmasına neden olur.

ACE, bu iki noktayı atlamak için bütüncül yeniden yazma yerine delta güncellemeleri kullanır. Makale verilerine göre, ACE, akıllı görevlerde temel modele göre %10,6, finansal çıkarımda %8,6 artış sağlarken uyum gecikmesini yaklaşık %86,9 azaltır; AppWorld sıralamasında daha küçük açık kaynak modeller kullanır. DeepSeek -V3.1, ACE ile birlikte, GPT-4.1 temelli üretim seviyesindeki akıllı ajan IBM CUGA'nın ortalama puanına eşitlenebilir.

ACE'nin etiketlenmiş denetim olmadan çalışabileceğini unutmayın; yansıma ve düzenleme için yürütme sırasında doğal olarak ortaya çıkan geri bildirim sinyallerini (örneğin, kodun çalışıp çalışmadığını veya hata verip vermediğini) kullanır. Bu, onu "ajentlerin kendi deneyimlerinden öğrenme" daha geniş hikayesine bağlar.

Harici bellek ve bağlam mühendisliği, ağırlıkları değiştirme riskini kaçırır, ancak gerçek bilgi içselleştirmeyi de kaçırır. Başka bir araştırma grubu ise, uzun vadede bazı bilgilerin ve becerilerin parametrelere yazılması gerektiğini düşünür. Bu, sürekli post-egitim olarak bilinir ve ana olarak sürekli talimat fine-tuning, sürekli tercih hizalaması gibi aşamalardan oluşur.

Thinking Machines'in John Schulman, öğrenmeyi psikolojideki motor öğrenme, olay belleği ve prosedürel bellek gibi kategorilere benzeterek bir katmanlı bakış açısı sunmuştur: Bağlam öğrenmesinin kısa vadeli öğrenme görevlerini iyi şekilde sürdürdüğünü, parametre ince ayarının (LoRA gibi yöntemler dahil) bunun üzerine eklenerek, özellikle büyük kapasite gerektiren ve gerçek anlamda bilgiyi içselleştirmeyi gerektiren görevler için özellikle uygun olduğunu düşünmüştür—zaman uzadıkça bağlam öğrenmesi yetersiz kalınca, parametre ince ayarı galip gelir.

Bu rota için hâlâ en büyük rakip kritik unutma, yakın zamanda Thinking Machines'in Tinker'inden ilginç bir çözüm geldi.

Tinker, 2025 Ekim'de yayınlanacak ilk ürünüdür ve LoRA tabanlı bir ince ayar API'sidir; dağıtılmış eğitim karmaşıklığını soyutlayarak araştırmacıların sadece forward_backward ve optim_step gibi alt seviye primitiflere odaklanmasını sağlar.

Sürekli öğrenme konusunda, temel görüşü, sıradan denetimli ince ayarın “off-policy” olduğunu ve modelin kendi üretmeyeceği token’ları taklit etmeye zorlandığını, bu yüzden her yeni bir beceri öğrenildiğinde eski yeteneklerin zedelendiğini savunan Self-Distillation Fine-Tuning (SDFT) adlı bir formül öne çıkıyor; SDFT, modelin kendi öğretmeni olmasını sağlayarak örneklerden yeni beceriler öğrenmesini ve eski becerilerini unutmasını engelliyor. Trajectory adlı bir girişim, Tinker’i sürekli öğrenme platformunun temel altyapısı olarak kullanıyor.

Ayrıca, Tinker, tam öğrenme yerine LoRA kullanarak pratik bir avantaja sahiptir: birden fazla ince ayar görevi aynı hesaplama havuzunu paylaşabilir ve maliyetler dağıtılır. Bu, "sürekli öğrenme hizmeti"nin bir iş haline gelmesinin nedenini de açıklar: sık model güncellemelerini, talep edildiğinde çağrılabilen bir API'ye dönüştürmek, endüstride şu anki bir girişim yönüdür.

Eğer ince ayar, modelin «yüzeyinde» işlem yapmak ise, sürekli ön eğitim (Continual Pre-training, CPT), modeli yeni veri setleriyle yeniden ön eğitmek suretiyle en temel seviyeye geri döner ve modeli yeni alanlara, yeni dillere veya zamanla değişen bilgi dağılımlarına uyarlar. Yeni ve eski verileri birleştirip baştan tekrar eğitmek yerine, CPT mevcut modele dayanır ve hesaplama kaynakları açısından çok daha verimlidir.

Tipik kullanım alanları üçtür: bilginin zamanla kayması, diller arası genişletme ve alanlar arası uyum. Ancak maliyet de nettir: birden fazla deneysel çalışma, sürekli ön eğitim için hesaplama maliyetlerinin yüksek olduğunu ve öğrenilen bilgilerde katasrofik unutma riskini tekrar tekrar göstermiştir. Bu nedenle akademik çevre, LLM ölçeğinde unutma olmadan, "yeniden oynatma gerektirmeyen ve görev etiketlemesi gerektirmeyen" sürekli ön eğitim yöntemleri aramaya devam etmektedir.

Çoğu şirket için, bir ön uç modelini sıfırdan yeniden ön eğitmek maliyeti gerçekçi olmayacak kadar yüksektir; bu da Karpathy'nin "büyük modeller sık sık yeniden eğitilmemelidir" sözünün kökenidir. Bu nedenle, katı anlamda "yeniden ön eğitme", genellikle ön uç laboratuvarları içindir; sürekli ön eğitme ise daha uygulanabilir bir uzlaşmadır.

Önceki dört yön, hâlâ "hile vs ağırlık değiştirme" ikili çerçevesinde dönmektedir. Ancak son bir yılda ortaya çıkan yeni çalışmalar, bu çerçeveden çıkıp öğrenmeyi yeniden tanımlamayı amaçlamaktadır.

Bir fikir, modelin kendi eğitim verilerini üretmesini ve kendi kendini nasıl güncelleyeceğini karar vermesini sağlamaktır.

MIT'nin SEAL (Self-Adapting Language Models) modeli tipik bir örnektir. Yeni bir girdi verildiğinde, model bir «kendini düzenleme» (self-edit) üretir; bu, bilgileri nasıl yeniden yapılandıracağına, ağırlıkları güncellemek için hangi hiperparametreleri kullanacağına ve veri artırma için hangi araçları çağıracağına dair doğal dil komutları içerir; ardından model bu bilgilere göre kendini ince ayarlar ve kalıcı ağırlık güncellemeleri oluşturur. «Hangi kendini düzenleme etkilidir» sorusu, dış bir pekiştirmeli öğrenme döngüsüyle eğitilir ve ödül sinyali, güncellenmiş modelin alt görevlerdeki performansıdır.

NeurIPS 2025 versiyonu, bu uyarlanabilir yeteneğin model boyutu arttıkça güçlendiğini ve unutmayı azaltmak için pekiştirmeli öğrenmeyi kullandığını daha da kanıtlamaktadır. Yazarları, çıkarım sırasında "Şu anda biraz öğrenmeye değer mi?" diye kendisi karar verebilen bir modelin geleceğini öngörmektedir; bu, tek seferlik düşünce zincirlerini kalıcı bir yetenek haline getirir.

NeurIPS 2025'te yayınlanan Google'in İç İçe Öğrenme (Nested Learning) yaklaşımı, daha agresif bir fikir sunar. Temel fikir, bir modeli birbirine iç içe geçmiş, çok katmanlı ve her biri farklı «bağlam akışları» ve farklı güncelleme sıklıklarına sahip optimizasyon problemleri kümesi olarak yeniden anlamaktır—bu bakış açısıyla mimari ve optimizasyon algoritmaları aynı şeyin farklı seviyeleri haline gelir.

Bir kanıt konsepti olarak, Titans uzun vadeli hafıza mimarisine dayalı olarak, sınırsız iç içe öğrenme katmanları ve bir "Sürekli Hafıza Sistemi" (CMS) adlı bir dizi eklemeye sahip olan Hope adlı kendini değiştiren bir mimari geliştirdiler. Basitçe ifade edersek, kısa vadeli/uzun vadeli hafıza ikiliği yerine, zaman ölçekleri boyunca güncellenen tam bir hafıza modülü spektrumu vardır.

Deneylerde, Hope, standart Transformer ve modern döngüsel modelleri, dil modelleme, uzun bağlam çıkarımı ve sürekli öğrenme görevlerinde aşıyor. İlginç bir şekilde, bu mimarilere insanlar gibi uykuda hafızayı pekiştirmek için modellerin aktif sohbetler arasında hesaplama gücünü ayırarak faydalı soyutlamaları daha kalıcı parametre hafızasına damıtacak bir “uyku” aşaması ekleyen sonraki çalışmalar da ortaya çıktı.

Daha üst düzeyde soyutlandığında, David Silver ve Richard Sutton tarafından öne sürülen "Deneyim Çağı" (Era of Experience) anlatısıdır.

Onların görüşü şudur: Matematik, kodlama ve bilim gibi kritik alanlarda, insan verilerinden çıkarılabilecek bilgi sınırlarına yaklaşılmaktadır; ilerlemeye devam etmek için AI'nın, kendi çevresiyle etkileşimi sonucu oluşan deneyimlerden sürekli öğrenmesi ve kendini besleyen bir veri döngüsü oluşturması gerekmektedir. Onlar, 2024 yılında DeepMind'in AlphaProof'ini («resmi ispat sistemleriyle sürekli etkileşim» kurarak IMO madalyası kazanması) bu dönemin başlangıcı olarak görmüşlerdir. Bu anlatı, sürekli öğrenmeyi, pekiştirmeli öğrenmeyi ve ajanların özerk keşfini bir araya getirmektedir ve henüz çözülmemiş bir soruyu da beraberinde getirmektedir: İlk sinyalleri kullanışlı yönlendirmelere dönüştüren ödül fonksiyonlarını kim tasarlayacak?

Ayrıca, sürekli öğrenme ile karıştırılabilen ancak farklı bir hedefe sahip olan bir komşu yön: Bilgi Düzenleme (Knowledge Editing). ROME ve MEMIT gibi yöntemler, belirli bir gerçeği depolayan MLP katmanlarını tanımlayıp değiştirerek, tamamen yeniden eğitmeden tekil veya toplu fakt güncellemeleri yapar. Ancak bu, sürekli öğrenmenin hedefinden farklıdır—bilgi düzenleme, bir gerçeği tam olarak üzerine yazmayı hedefler; sürekli ve ömür boyu düzenleme senaryolarında, tekrarlayan parametre değişiklikleri birbirini bozarak giderek “zehirli” birikimlere neden olur ve bu da WISE, AlphaEdit gibi sıralı düzenlemelere özel yöntemlerin ortaya çıkmasına yol açar.

Bu yönleri bir arada değerlendirdiğinizde, aslında bir “bilginin nerede bulunduğu” ekseni boyunca sıralandıklarını görebilirsiniz.

En dışta, dışsal bellek ve bağlam mühendisliği yer alır; bilgi tamamen modelin dışındaki token uzayında saklanır, güvenli ve kontrollüdür ancak gerçekten içselleştirilmemiştir; ortada sürekli ince ayar ve sürekli ön eğitim yer alır; bilgi ağırlıklara yazılır, kapasite sınırı daha yüksektir ancak felaketçi unutma ile doğrudan yüzleşilir; en içte ve en önde olan, modelin kendi kendini değiştirme ve kendini geliştirme fikirleridir; bu fikirler, "öğrenme" eyleminin kendisini modelin bir yeteneği haline getirmeyi amaçlar.

Pratik bir gözlem: Bu yönler muhtemelen birbirini dışlamaz, bunun yerine katmanlı bir şekilde işbirliği yaparlar. Schulman’ın katmanlı öğrenme görüşü ve Karpathy’nin “bilişsel çekirdek + dış bellek” fikri, temelde aynı şeyi söylüyor: kısa vadeli, değişken bilgiler bağlam ve dış belleğe bırakılmalı, uzun vadeli, derinleşmeye ihtiyaç duyan yetenekler ise parametre ince ayarına bırakılmalı; her biri kendi görevini yerine getirmeli. ACE, izleme geri bildirimiyle gözetimsiz şekilde gelişebiliyor, SEAL ise kendi kendini düzenleme işlemini iyileştirmek için pekiştirmeli öğrenmeyi kullanıyor; bu da ortak bir eğilimi ima ediyor: gelecekteki sürekli öğrenme, modelin kendisinin “ne öğrenecek ve nasıl öğrenecek” sorularını yönetmesi olacak.

O halde Karpathy'nin «henüz on yıl daha» görüşüne dönelim; sürekli öğrenme gerçekten çözüldü mü? Cevap muhtemelen — henüz hayır, ancak artık tamamen boş bir alan da değil. Kritik engel olan katastrofik unutma hâlâ tamamen aşılıp geçilemedi; SDFT, iç içe öğrenme gibi yöntemler hâlâ bunu «yok etmek» yerine «hafifletmek»tedir. Daha iyi bağlam yönetimi ve ince ayarla sürekli öğrenme sorunu çözülebilir mi, yoksa tamamen yeni fikirlere mi ihtiyaç var? Bu daha temel soru, Schulman bile kendisi tarafından henüz kesin bir cevap verilmemiştir.

2025 ile 2026 arasında, sürekli öğrenme, tekrar tekrar vurgulanan bir “eksik yetenek”ten, gerçek olarak birçok yol ayrımına sahip ve başlangıç şirketlerinin ürün üretmeye başladığı aktif bir savaş alanı haline geldi. Hangi yolun “AI meslektaşı”nı prototipten gerçekliğe dönüştürmeyi öne çıkaracağı, takip edilmesi değer.

Referans bağlantısı

https://www.lesswrong.com/posts/qBsj6HswdmP6ahaGB/andrej-karpathy-on-llm-cognitive-deficits

https://karpathy.bearblog.dev/year-in-review-2025/

https://www.letta.com/blog/continual-learning/

https://arxiv.org/abs/2510.04618

https://arxiv.org/abs/2402.01364

https://thinkingmachines.ai/tinker/

https://arxiv.org/pdf/2604.05096

https://arxiv.org/pdf/2606.03979

Bu yazı, WeChat hesabından "Makine Kalbi" (ID: almosthuman2014) tarafından paylaşılmıştır, yazar: Sürekli Öğrenen Makine Kalbi, editör: Panda