En saçası şuydu: Hiçbir makine öğrenimi arka planım yoktu, model eğitiminin standart sürecini bilmiyordum ve birçok teknik detayı anlayamıyordum. Yaptığım şey, Sol'a sürekli taleplerde bulunmak, sonuçları geri bildirmek ve onun kendi kendine sorunları bulmasını, deneyler tasarlamasını ve sürekli olarak yinelemesini sağlamaktı.

Yazı yazarı: Anshu

Makale çevirisi, kaynak: ME News

Bu, ilk kez "AGI aslında geldi" hissini yaşadığım an.

Kendi otomatik düzeltme modelimi GPT-5.6 Sol ile eğittim. Sonuç olarak, yalnızca 1,7 milyar parametreli bu yerel model, test setinde GPT-5.6 Sol'u hafifçe geçti.

En saçası şuydu: Hiçbir makine öğrenimi arka planım yoktu, model eğitiminin standart sürecini bilmiyordum ve birçok teknik detayı anlayamıyordum. Yaptığım şey, Sol'a sürekli taleplerde bulunmak, sonuçları geri bildirmek ve onun kendi kendine sorunları bulmasını, deneyler tasarlamasını ve sürekli olarak yinelemesini sağlamaktı.

Tüm süreç tamamen ücretsizdir.

Tümü, giderek daha ciddi hale gelen bir “yazım sorunundan” kaynaklanıyor

Uzun süre AI ile diyalog kurduktan sonra, yazma becerim giderek kötüleşti.

Hızlı yazmaya alıştım ve yazım hatalarını, harf sıralamasını veya eksik harfleri kontrol etmekten vazgeçtim. Yazma becerilerimi yeniden eğitmek yerine, AI çağına daha uygun bir çözüm benimsedim: Sorunları çözmek için daha fazla AI kullanmaya devam ediyorum.

Geleneksel otomatik düzeltme, giriş sırasında sürekli metni değiştirerek düşünceleri kolayca keser. Benim fikrim, kullanıcının hatalarla dolu olsa bile bozulmadan hızlıca girmesini sağlamak ve giriş tamamlandıktan sonra AI'nın tüm hataları tek seferde temizlemesini sağlamaktır.

Aynı zamanda bu modeli mümkün olduğunca küçük tutmak istiyorum.

Daha küçük modeller, daha hızlı çalışır, daha az enerji tüketir ve tamamen yerel olarak çalıştırmak için daha uygundur. Hem verimlilik hem de pil ömrü nedeniyle, hem de sadece deneysel ilgi nedeniyle, yeterince küçük bir yerel modelin otomatik düzeltmeyi ne kadar iyi yapabileceğini görmek istiyorum.

Bu yüzden kendim bir tane eğitmeye karar verdim.

Sol'u otomatik bir deney araştırmacısı yapın

Bu projenin ilham kaynağı Andrej Karpathy'nin "autoresearch" deneyimidir.

CodeX'in /goal moduyla Sol için bir döngüsel çalışma akışı tasarladım:

Bir deney seçin, deneyi yürütün ve sonucu belgeye kaydedin; başarısız olursa bu yolu bırakın; ardından daha önce doğrulanmış hataları kaçınarak bir sonraki deneyi planlayın.

Sadece geçilmesi gereken birkaç giriş örneği, katı gecikme hedefleri ve ulaşmak istenen sonucu sağladım, ardından Sol'un kendi kendine çalışmasını bıraktım.

Olaylar beklentilerimi aştı.

Sol, önce Qwen 3.5, Gemma 4 ve Liquid LFM 2.5 gibi birçok aday temel modeli inceledi ve karşılaştırdı. Daha sonra Hugging Face üzerinde gerçek yazım metinleriyle ilişkili bir veri kümesi buldu.

Ancak gerçek veriler yeterli değil.

Daha gerçekçi kullanıcı girdilerine yakın yazım hataları oluşturmak için Sol, bir “parmakla Mac klavyesine vurma” simülatörü yazdı. Bu simülatör, klavyenin fiziksel düzenlemesine dayanarak parmakların düşme noktalarını Gauss dağılımıyla simüle eder ve aşağıdaki yaygın hataları üretir:

• Yanındaki tuşa basın;
• Harfler ters sıralanmış;
• Tekrar girin;
• Eksik karakter;
• Parmaklar aynı anda birden fazla tuşa aynı anda dokunuyor.

Temel model, metin verisi ve klavye hata simülatörüne sahip olduktan sonra, Sol doğrudan MacBook'mda MLX ile ince ayarlandı.

Bir saatten az bir sürede çalışır bir prototip oluşturdu.

Sorun, ilk sürümün doğruluk oranının ideal olmaması.

İlk engel: Tokenizer yazım hatalarını anlayamıyor

Sol, ilgili makaleleri okudu ve bir dizi test tasarladı; sonunda modelin ana darboğazının eğitim verilerinde değil, Tokenizer, yani tokenize edici olduğunu belirledi.

Büyük dil modelleri genellikle metni harf harf anlamaz, metni önce Tokenlere böler. Normal kelimeler sabit anlamsal birimlere ayrılabilir, ancak yazım hataları genellikle mevcut Token yapısını bozar.

Bu, insanlar için çok açık bir harf hatasının, model açısından tamamen yabancı bir dizi Token haline gelebileceği anlamına gelir.

Modeller, hataları gerçekten “anlayamaz”; sadece yanlış yazım ile doğru yazım arasındaki eşlemeleri mekanik olarak hatırlar. Bu yaklaşım, genelleme yeteneğini zayıflatarak modelin mevcut dil bilgisinden tam olarak yararlanmayı engeller.

Sol, önce Google'ın ByT5'ini denedi.

ByT5, geleneksel bir Tokenizer'e ihtiyaç duymadan bayt dizilerini doğrudan işleyen bir modeldir. Bu deneme, belirgin bir iyileşme getirdi, ancak ByT5'in erken yayınlanmasından dolayı modelin sahip olduğu dil bilgisi sınırlıdır ve nihai performansı GPT-5.6 Sol seviyesine ulaşamaz.

Devam eden araştırmalar sonucu, Sol sorunun “Tokenizer’ı tamamen iptal etmek” yoluyla çözülmesi gerekmediğini fark etti.

Bunun yerine T5Gemma adlı bir Encoder-Decoder mimarisine sahip modeli seçti.

Basitçe bir sonraki belirteci tahmin eden modellerden farklı olarak, Encoder-Decoder modelleri, kodlayıcı aracılığıyla girişi tamamen anladıktan sonra çözücü tarafından düzeltilmiş metin oluşturabilir. Daha da önemlisi, Sol, kodlayıcıya ek eğitim uygulayarak modelin yazım hataları içeren girdileri daha iyi tanımasını sağlayabilir.

Bu rota, modelin performans üst sınırını önemli ölçüde yükseltti.

İkinci engel: Geleneksel kayıp fonksiyonları modeli “değiştirmeyin” teşvik eder

Model mimarisi değiştirildikten sonra yeni bir sorun ortaya çıktı.

Model, bazı hataları doğru bir şekilde düzeltmeyi başarabiliyor, ancak diğer açıkça görülen yazım hatalarını sıklıkla göz ardı ediyor. Girdide hatalar olsa bile, onları aynen kopyalamaya eğilimli.

Sol, sorunun en yaygın çapraz entropi kayıp fonksiyonundan kaynaklandığını tespit etti.

Otomatik düzeltme verilerinde, çoğu karakter zaten doğrudur ve gerçekten düzeltilmesi gereken karakterler çok küçük bir orandadır. Standart çapraz entropi kullanılarak eğitim yapıldığında, modelin en güvenli stratejisi "mümkün olduğunca değiştirmemek" olur.

Çünkü orijinal metni kopyalamak çoğu yerde doğru cevabı sağlar, ancak aktif olarak değiştirmek hatalara yol açabilir.

Diğer bir deyişle, geleneksel eğitim hedefleri modelin değişmeden kalmasını ödüllendiriyor.

Bu sorunu çözmek için Sol, özel bir kayıp fonksiyonu yazdı.

Öncelikle orijinal metni hedef metinle bayt düzeyinde hizalar, ardından dinamik programlama algoritması kullanarak iki metin arasındaki en küçük düzenleme yolunu hesaplar ve hangi konumların kopyalama, hangilerinin gerçek ekleme, silme veya değiştirme olduğunu tanımlar.

Bu temel üzerinde, Sol "doğru düzeltme" ile ilişkili eğitimi ağırlıklandırdı ve yalnızca karakter kopyalama ile elde edilen kazancı azalttı.

Çok sayıda parametre ayarlamasının ardından modelin düzeltme doğruluk oranı önemli ölçüde arttı.

Üçüncü darboğaz: Model bir kez yanlış yola çıkarsa, geri dönemez

Son büyük soru, otoregresif üretim mekanizmasından kaynaklanmaktadır.

Model, metin üretirken yalnızca daha önce üretilmiş içeriklere dayanarak bir sonraki tokeni tahmin edebilir. Eğer önceki bir adımda hata oluşursa, sonraki üretimin tümü bu hatalı sonuca dayanarak yapılır ve model gerçek anlamda geri dönüp düzeltme yapamaz.

Teorik olarak, modelin önce “düşünerek” ardından cevap vermesi için eğitilebilir, ancak bu gecikmeyi büyük ölçüde artırır ve anlık yanıt gerektiren otomatik düzeltme senaryolarına uygun değildir.

Sol, daha zarif bir çözüm olan Beam Search, yani demet aramasını buldu.

Model, her adımda yalnızca en yüksek olasılığa sahip tek bir yol seçmek yerine, aynı anda birden fazla olası üretim dalını korur ve farklı düzeltme sonuçlarını paralel olarak araştırır. Arama tamamlandıktan sonra, birikmiş log olasılığı en yüksek olan tam yol seçilir.

Bu, tek çizgi çıkarımının yerine paralel aramayı kullanmak anlamına gelir.

Beam Search, nihai sonucu açıkça iyileştirdi, ancak tüm arama tamamlanana kadar kullanıcıların hiçbir çıktı görmemesi gibi bir deneyim sorunu da getirdi.

Sol ardından çok akıllıca bir gözlem yaptı.

Her arama turundan sonra, şu ana kadar korunan tüm dallar karşılaştırılabilir. Bu dallar aynı başlangıca sahipse, bu "en uzun ortak önek" kesinlikle sonucunda yer alacaktır.

Bu nedenle sistem, bu içeriği kullanıcıya hemen gösterebilir.

Arama devam ettikçe zayıf yollar yavaşça elenir ve kalan dalların ortak önekleri giderek uzar. Sonuçta, kullanıcıya tek seferde aniden gösterilen sonuçlar yerine, sürekli ilerleyen düzeltme metni sunulur.

Sol, MacBook GPU'yu kullanarak paralel dekodlama yapan özelleştirilmiş bir MLX çıkarım hattı oluşturdu.

Sonuç olarak, ilk token'in çıktı gecikmesi sadece yaklaşık 40 milisaniyedir ve süreç tamamen yerel olarak tamamlanır.

Sonuç: 1,7 milyar parametreli model, GPT-5.6 Sol'u geçti

Son değerlendirme, "hata azalma oranı" metriği kullanılarak yapılır; değer ne kadar yüksekse, model o kadar çok giriş hatasını düzeltir.

Değerlendirme sonuçları şunlardır:

• Apple otomatik düzeltme: 49,66%
• GPT-5.6 Luna: 82,47%
• GPT-5.6 Terra: 87,64%
• GPT-5.6 Çözüm: 90,56%
• Eğitilen 1,7 milyar parametreli model: 91,02%

Bu yerel küçük model, nihayetinde GPT-5.6 Sol'u çok küçük bir avantajla geçti.

Ayrıca veri sızıntısı veya modelin "hile yapması" olup olmadığını da özel olarak kontrol ettim. Test sırasında, modelin sadece hatalarla cevaplar arasındaki eşlemeleri ezberlemesi olmadığını doğrulamak için eğitim verilerinde geçen kelimeleri aktif olarak hariç tutuyoruz.

Tüm projenin son maliyeti:

Bir kezlik model kotası sıfırlama ve 0 dolar nakit harcaması.

Beni gerçekten etkileyen, sadece nihai puan değil

Proje sürecinde, karşılaştırmalı öğrenme, GRPO, DPO, dinamik maskeleme gibi farklı yönlerde henüz geliştirilmemiş birçok deney bulunmaktadır.

Tüm denemeler başarılı olmasa da, Sol belgeleri aktif olarak okuyabildi, sorunları tanımlayabildi, hipotezler kurabildi, deneyler tasarlayabildi, sonuçları analiz edebildi ve başarısızlık deneyimlerinden ders çıkararak bir sonraki deneme adımlarını planlayabildi.

Benim için gerçekten etkileyen, "1,7 milyar parametreli bir modelin GPT-5.6 Sol'u geçtiği" olayı değil.

Daha önemlisi, tamamen makine öğrenimi arka planına sahip olmayan bir kişi, artık AI yardımıyla önce profesyonel araştırma ekiplerinin yapabilmesi gereken deney süreçlerini tamamlayabiliyor.

Tüm alt yapı bilgilerini掌握 etmedim ve tam bir teknik rota önceden tasarlamadım. Sadece neyi çözmek istediğimi net bir şekilde belirledim ve Sol'un cevapları aramaya devam etmesini sağladım.

Sadece kod yazmakla kalmıyor, aynı zamanda araştırmacı, mühendis ve deney tasarlayıcısı rollerini de üstleniyor.

Bu, ilk kez gerçekten "AGI hissediyorum" anı olabilir.

Deneyim eksikliği sizi denemeye başlamaktan alıkoymasın.

Yapay zekâ, sıradan insanların profesyonel engelleri aşmasına yardımcı olabildiğinde, geçmişte uzak gibi görünen birçok teknoloji projesi artık o kadar uzak olmayabilir.