MIT Araştırmacıları, GPT-6 Astra'yı Kullanarak Qwen'un Matematik Yeteneğini 6 Kat Artırdı

Yazan: Şen Çay TechFlow

Eğitim gerekmiyor, veri gerekmiyor, gradyan inişi gerekmiyor.

MIT araştırmacıları, bir açık kaynaklı küçük modelin ağırlıklarını GPT-6 Astra'ya verdi ve doğal dilde bir talimat verdi: “Matematik yeteneklerini artırın.”

Astra, 20 saat boyunca 800 milyon parametreyi inceledi ve iki katmanlı ağdaki 131.072 ağırlığı tespit ederek ameliyat yaptı.

Ameliyat öncesi bu model, MATH-500 performans testinde %7,9 puan aldı; ameliyat sonrası %48,1.

Bugünün en çarpıcı AI haberi budur.

2 Kasım'da, MIT Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı (CSAIL) araştırma ekibi, "Ağırlık Uzayı Programlama" adını verdikleri bir deneyin sonuçlarını içeren bir blog yazısı yayınladı. Birinci yazar Rikiya Takehi, MIT CSAIL'in birinci sınıf doktora öğrencisi olup, ortak yazarlar Jayden Teoh, Alex Zhang ve Takehi'nin danışmanı Omar Khattab'dır.

Deneyin temel fikri şu tek cümleyle özetlenebilir: Yeterince güçlü bir Yapay Zeka, başka bir Yapay Zeka'nın "beynini" doğrudan okuyarak sorunları bulur ve ardından bir cerrahi bıçakla hassas şekilde düzeltir.

Seçilen "hasta", Alibaba'nın açık kaynaklı modeli Qwen3.5-0.8B'dir, 800 milyon parametreli küçük bir dil modeli. "Cerrah" ise OpenAI'nin en yeni GPT-6 Astra'sıdır.

Astra'ya araştırma ekibi üç şey sağladı: bir dizi matematik alıştırması, model ağırlıklarını okuyup yazabilecek bir Python ortamı ve sınırlı sayıda model çıkarım çağrısı hakkı. GPU yok, eğitim döngüsü yok, optimizasyon yok. Astra, modelin davranışını gözlemleyerek ve ağırlık değerlerini kontrol ederek bir insan araştırmacı gibi sorunu teşhis etmeli ve doğrudan parametreleri değiştirmelidir.

Süreç 20,3 saat sürdü ve bunun 4,7 saati hizmet kesintisinin yeniden başlatılmasını beklemeye harcandı. Astra, 158 konuşma, 80 Python yürütme ve 50 model değerlendirmesi gerçekleştirdi.

Sonuç olarak, modelin tekrarlayan çıktıya sapmasına neden olan bir «sayısal yönü» 15. ve 19. katmandaki MLP çıktı matrislerinde buldu ve bu yönü 64 çıktı sütunundan çıkardı. Düzeltilen ağırlık sayısı toplamda 131.072’dir ve bu, modelin tüm parametrelerinin %0,016’sını oluşturur.

Küçük bir değişiklik, büyük bir etki.

Üç temel test üzerinde, değiştirilmeden önce ve sonra karşılaştırma şöyledir:

MATH-500: 7,9% → 48,1%

GSM8K: 13,8% → 67,1%

IFEval (talimat takibi): 21,0% → 62,3%

Daha net bir sayı: Düzenlemeden önce, Qwen3.5-0.8B, MATH-500 üzerindeki cevapların %93'ü tekrar döngüsüne girdiği için 32.768 tokenlik sınırı aştı. Düzenlemeden sonra bu oran %33,1'e düştü.

VentureBeat, bunu "sinir ağılarının gen düzenlemesi" olarak tanımladı. Bu benzetme, temel noktayı tam olarak yakaladı: geleneksel model eğitimi, bir kişinin matematik becerisini çok sayıda alıştırma yaparak geliştirmesi gibidir; ancak ağırlık uzayı programlaması, beyni doğrudan açıp yanlış bağlanan bir siniri bulup yeniden bağlamaya benzer.

Ancak araştırma ekibi kendi kendine önemli bir sınırlama belirtti: Astra, Qwen'e yeni matematiksel yetenekler kazandırmadı, sadece modelin mevcut yeteneklerini serbest bırakmayı engelleyen bir engeli kaldırdı.

Bu fark kritik önem taşır. Bu doğrulamak için ekip, Google'ın Gemma 3 270M modelinde aynı deneyi tekrarladı. Gemma 3, nadiren tekrarlı çıktı sorunu yaşar (yalnızca %8,5'i token sınırına ulaşır), sonuç olarak Astra'nın MATH-500 puanı üzerindeki etkisi neredeyse yoktur ve dalgalanma %1'in altındadır.

Sonuç açık: Ağırlık uzayı programlama şu anda yapabildiği şey, "engelleri kaldırmak", değil "yeni yollar inşa etmek".

Matematik, araştırma ekibinin sadece bir senaryo olarak gösterdiği bir durumdur; Astra'nın ağırlık uzayındaki yetenekleri bunun çok ötesindedir.

「Ruh» tanınması: Araştırma ekibi, dört tamamen aynı mimariye sahip Atari oyunu strateji ağı (Breakout, Pong, Pac-Man, Freeway) eğitti ve ağırlıkları yalnızca Astra'ya verdi, hiçbir etiket vermedi. Astra, ağırlık değerlerine dayanarak her ağın hangi oyunla eşleştiğini doğru şekilde tanımladı. Mantık yürütme şekli şuydu: Breakout ağınnın ilk katmanındaki ağırlıklar ekranın alt kısmında yoğunlaşıyordu (raket konumu), çıktı katmanındaki eylem dağılımı ise sağa ve sola harekete yöneliktir.

Sıfırdan Ağ Oluşturma: MinAtar (Atari'nin minyatür versiyonu) deneylerinde, Astra sıfırdan doğrudan ağırlık uzayında bir oyun strateji ağı "yazdı". Breakout'ta, Astra'nın yazdığı ağ 517,4 puan aldı, PPO algoritmasıyla 5 milyar adımda eğitilen ağ ise sadece 25,3 puan aldı.

Kilitlenen Otomatik Sürücüyü Onarın: PPO ile eğitilen bir araba kontrolcüsü, bir yamacada kilitlendi ve yerel optimuma düştü. Astra, yalnızca bir diyalogla ağırlıkların %3,5'ini değiştirdi ve onarılan kontrolcü 1.024 testte tamamını başarıyla tamamladı.

Bu deneylerin ortak noktası, Astra'nın ağırlıkları sadece "okuyabiliyor" ve her sayının hangi davranışı temsil ettiğini anlayabiliyor, aynı zamanda ağırlıkları "yeniden yazarak" modelin eğitim algoritmasının yapamadığı şeyleri yapmasını sağlıyor.

Ağırlık uzayında programlama öncesinde, akademik çevreler model ağırlıklarını doğrudan düzenleme girişimlerinde bulunmuştu. 2022 NeurIPS'te sunulan ROME ve 2023 ICLR'de sunulan MEMIT, dil modellerinin ağırlıklarına bir gerçek bilgiyi doğrudan eklemeyi veya değiştirmeyi gösterdi; örneğin, "Eiffel Kulesi Paris'te" ifadesini "Eiffel Kulesi Roma'da" olarak değiştirmek.

Ancak ROME ve MEMIT, tek bir bilgi öğesi üzerinde "gerçek düzeyindeki arama-değiştirme" işlemlerini gerçekleştirir. MIT ekibi bu sefer farklı bir şey gösterdi: Astra, modelin genel yeteneklerini, matematiksel çıkarım ve talimat uygulama yeteneklerini değiştiriyor; bu, "bir bilgi noktası düzenleme"den "bir davranış kalıbını değiştirme"ye geçişin eşiğini aşmaktadır.

Takehi, blogunda daha agresif bir değerlendirme yapıyor: “Sinir ağı ağırlıkları, yakında ağırlıkları çıkarımsal olarak optimize edebilen LLM’ler tarafından doğrudan optimize edilecek.”

Bu yön doğrulanırsa, potansiyel uygulama senaryoları şunlardır:

Model onarımı: Dağıtıldıktan sonra modelde sorun oluştuğunda, geri çekip yeniden eğitmek yerine, başka bir AI'nın "teşhis" yaparak düzeltmesi sağlanabilir. Bu, maliyeti milyonlarca dolar olan öncü modeller için büyük maliyet tasarrufu anlamına gelebilir.

Model denetimi: Eğer AI ağırlıkları okuyabiliyorsa, güvenlik araştırmacıları da bir modelin arka kapı veya zararlı davranışlarla miğferlendiğini kontrol edebilir.

Açık kaynak model özelleştirme: Yeterince güçlü bir AI, herhangi bir eğitim altyapısına gerek olmadan doğal dil komutları ile açık kaynak modellere «özelleştirilmiş» yetenekler kazandırabilir.

GPT-6 Astra, kendi başına tartışmalı bir modeldir. OpenAI, güvenlik endişeleri nedeniyle GPT-6.1 Astra'nın yükseltilmiş sürümünün piyasaya sürülmesini ertelemiştir.

OpenAI baş bilim insanı Jakub Pachocki, Astra'nın lanzmanından üç gün sonra, OpenAI'nin iç test sonuçlarının, AI ilerlemenin "özyinelemeli kendi kendini geliştirme" yönünde ilerleyebileceğini gösterdiğini uyarıda bulundu; yani AI sistemleri, kendi varislerini oluşturmakta giderek daha fazla rol alıyor. Pachocki, hiçbir laboratuvarın iç denetim sisteminin bu gelecekle başa çıkacak kadar yeterli olmadığını söyledi.

Ağırlık uzayı programlaması, bu uyarıların özünü tam olarak dokunuyor. Bir AI, başka bir AI'nın ağırlıklarını değiştirerek yeteneklerini artırabiliyorsa, teorik olarak bir AI kendi ağırlıklarını değiştirebilir mi?

Araştırma ekibi blogda, özyinelemeli kendi kendini geliştirme veya etkilerin sürekli birikimli olduğunu göstermediklerini açıkça belirtti. Ancak bu, güvenlik topluluğunun dikkatini çekmeyi engellemedi. PauseAI'nin Maxime Fournes, bunu "aşırı cesaretkâr bir araştırma yönü" olarak nitelendirdi.

Mevcut sınırlamalar gerçek: Deney, 800 milyon parametrelik küçük bir modelde başarıyla sonuçlandı, ancak Gemma 3'te başarısız oldu. Süreç 20 saat sürdü ve çok sayıda deneme-yanılma gerektirdi; bağımsız bir ekip tarafından tekrarlanmadı ve geleneksel ince ayarla karşılaştırıldığında maliyet avantajı doğrulanmadı.

Ancak yön zaten belirlendi. ICML 2026'da yayınlanan bir makale, ağırlık uzayının metin, görüntü ve sesle birlikte generatif AI'nın "birinci sınıf modalitesi" olması gerektiğini ve modellerin ağırlıkları doğrudan anlaması ve işlemesi gerektiğini öne sürdü.

Eğer 2024 yılı AI'nın "resimleri anlatmayı" öğrenmesi yılıysa, 2025 yılı AI'nın "kod yazmayı" öğrenmesi yılıysa, 2026 yılı muhtemelen AI'nın "AI'yi değiştirmeyi" öğrenmesi yılı oluyor.

Bu yol nereye götürüyor, şu anda kimse bilmiyor.