Turing Ödülü sahibi ve pekiştirmeli öğrenmenin babası Richard Sutton, mevcut üretken AI'nın içsel sınırlamalarını eleştiriyor: iyi olan yenilikçi değil, yenilikçi olan iyi değil.

Yazan: Yeni Zihin

AI: İyi olan yenilikçi değil, yenilikçi olan iyi değil.

Akademik dünyadaki en zehirli değerlendirmelerden biri:

Bu iş hem yenidir, hem de harikadır.

Üzgünüm, iyi olan yenilikçi değil, yenilikçi olan iyi değil.

Ancak takviyeli öğrenme alanının kurucularından biri, "Takviyeli Öğrenme" ders kitabının yazarı ve Turing Ödülü sahibi Richard Sutton, bu şakayı tüm üretici AI'ya yöneltti.

O, bu değerlendirmenin, bugün bildiğimiz çoğu AI için geçerli olduğunu söyledi.

AI: İyi olan yenilikçi değil, yenilikçi olan iyi değil.

Sutton'un temel savı son derece basittir, korkutucu kadar basittir.

Üretimsel AI, temelde denetimli öğrenmedir.

Supervise edilmiş öğrenmenin mantığı, modele insanlar tarafından oluşturulan birçok örnek göstererek taklit etmeyi öğretmektir.

Nasıl yapıldığına ne kadar benzerse, puan o kadar yüksek olur.

Sorular geliyor.

Model, eğitim verilerine tam olarak uygun şekilde içerik ürettiğinde, insanlar tarafından zaten doğrulanmış iyi şeyleri yeniden ürettiğinden çıktı kalitesi yüksektir. Ancak bu yenilikçi değildir. Sadece insanlar zaten bildiklerini farklı kombinasyonlarla yeniden paketlemektedir.

Model, eğitim verilerinden sapmaya çalışıp gerçekten yeni içerikler üretmeye çalıştığında kalite çöker. Çünkü bunun gibi yeni bir şeyin gerçekten iyi olup olmadığını değerlendirmek için hiçbir dahili mekanizmaya sahip değildir. Sadece üretir, değerlendirmez.

İşte o yapısal çelişki:

Yenilik ve kalite, saf denetimli öğrenme çerçevesinde bir salıncakın iki ucudur.

Bir ucunu bastırırsanız, diğer ucu yukarı kalkar.

Bu bir mühendislik sorunu değil. Veri toplayarak, modeli genişleterek veya daha fazla GPU ekleyerek çözülemez.

Sutton, en çok eleştirilen hatası olan "hallüsinasyon"u, modelin "yenilik" arayışının bir yan ürünü olarak karşılaştırdı.

Yanılsamalardan nefret ederiz, bu da tam olarak bir şeyi kanıtlar: aslında yeniliklere ihtiyacımız yoktur. Sadece kaliteli taklitler istiyoruz.

İyi olan yenilikçi değil, yenilikçi olan iyi değil.

O şakada hakemin zehirli yorumu, tüm üretken AI'nın içsel sınırlarını tam olarak tanımladı.

Gerçek bir "keşif", üçlü bir set gerektirir

Sutton, birinci ilkelerden yola çıkarak yaratıcılığın "üçlü formülünü" çözdü:

Gerçek keşif (Discovery) = Varyasyon (Variation) + Değerlendirme (Evaluation) + Seçici koruma (Retention).

Her gerçek yaratıcılık ve keşif, eksiksiz olarak üç adıma ihtiyaç duyar:

1. Varyasyon, çeşitli olasılıklar oluşturur. Rastgele olabilir, mevcut bilgilere dayalı olabilir, ancak gerçek bir belirsizlik mevcut olmalıdır—aksi halde bu keşif değil, tablo kontrolüdür.

2. Değerlendirme, hangi varyasyonların değerli olduğunu belirler. Bu, net bir hedefe veya "iyi" ile "kötü"yü ayırt edebilecek bir standarta ihtiyaç duyar.

3. Seçici koruma (Selective Retention): Değerli varyasyonları koruyun ve bunların gelecekteki eylemleri ve öğrenmeyi etkilemesine izin verin.

Bu üç adım, Sutton'un icadı değildir. Doğal seçilimin mantığıdır, bilimsel yöntemin mantığıdır, insan öğrenmenin mantığıdır.

Evrim teorisi: Rastgele genetik mutasyonlar (varyasyonlar) → Çevresel seçme (değerlendirme) → Uygun olanın hayatta kalması (seçici koruma).

Bilimsel yöntem: Hipotez önermek (varyasyon) → Deney ile doğrulamak (değerlendirme) → Makale yayınlamak (seçici koruma).

İnsan öğrenmesi: Farklı çözümler denemek (varyasyon) → Doğruluk ve yanlışlığı kontrol etmek (değerlendirme) → Etkili yöntemleri hatırlamak (seçici koruma).

Şu anda, üretken AI, üçlü birliğin ilk adımını tamamladı: neredeyse hiçbir değerlendirme yapılmadı, daha fazlası seçici koruma yapılmadı,

Bu, rastgele ok atan bir okçu gibi, gözleri bağlı, atış yaptıktan sonra hedefe bakmıyor ve sonuçlara göre pozisyonunu ayarlamıyor.

Buna bir milyon ok at diye söyle, bazen hedefi vurur, ama asla neden vurduğunu bilmez.

Peki, bilim insanlarının hâlâ bir yeri var mı?

Buraya kadar gelirseniz biraz endişeli olabilirsiniz: Eğer gelecekte AI gerçekten “keşif”in üçlüsünü kendi başına tamamlayabilirse, bilim insanları işlerini mi kaybedecek?

Sutton'un kendi yanıtı: Yerine geçilemez, ancak rol tamamen dönüşmelidir.

Konuşmasında, bağımsız olarak matematik teoremlerini kanıtlayabilen bir yapay zekânın hâlâ insanlar tarafından hangi soruların önemli olduğu söylenmesine ihtiyacı olduğunu belirtti.

Bu skomluk değil, gerçek bilgi sınırıdır.

Rice Üniversitesi optimizasyon uzmanı matematikçi Shiqian Ma, ChatGPT kullanarak altı yıldır üzerinde çalıştığı bir algoritma yakınsama sorununu kanıtladı.

Özetde bir cümle var:

ChatGPT 5.5 tarafından oluşturuldu ve yazar tarafından doğrulandı.

Bu algoritma BDRS olarak adlandırılır ve tam adı Bregman Douglas-Rachford Splitting'dir; Optimal Transport sorunlarını çözmek için kullanılır.

Bregman Douglas-Rachford Bölme Yöntemi

Ön baskı adresi:

Bu, onun ve ortak yazarlarının kendi tasarladığı bir şeydi; altı yıl boyunca onu rahatsız eden, matematiksel olarak en katı anlamda “neden doğru olduğu” konusundaki yakınsaklık kanıtıydı.

arXiv ön baskı platformu, gönderimden bu yana hâlâ ertelemeye alınmıştır.

Nedeni tahmin ediyor: Özette "ChatGPT" üç harfi var, platformun bu tür tezlerle nasıl davranacağı bilinmiyor.

Ancak insanlar AI tarafından yerini alınıp alınmayabilir?

Cevabı şuydu: Hayır. Düz bir şekilde söyledi:

Ben, AI'nın bu tür bir algoritmayı yaratıcı bir şekilde ortaya koyup "Bu, optimal taşıma için etkili bir algoritmadır, şimdi bunun yakınsaklığını kanıtlamaya çalışayım" diyebileceğini düşünmüyorum.

İnsanların rehberliği olmadan, AI hangi sorunu çözeceğini bilmez.

Bu cümle Sutton ile tam olarak eşleşir: Sorun kendisi, insanlar tarafından tanımlanmalıdır.

Altı yıl harcadı, ancak "doğru soruyu sordu":

Konuyla ilgili çok derin bir anlayışa sahip olmanız gerekiyor.

Bu örnekte, bu konuda altı yıldır çalıştım ve bu nedenle zorlukları iyi biliyorum.

Bu altı yıl harcanan zaman değil, ön koşuldur.

Tam olarak bu altı yıl, ona bu kanıtın nerede takıldığını, önceki tüm yolların neden başarısız olduğunu ve ChatGPT'nin hangi yönün devam edilmesi değerli olduğunu, hangisinin illüzyon olduğunu gösterdi.

Ve bu tek bir uyarı değil, beş ay boyunca. Bu, en çok yanlış anlaşılan nokta; kendi kendini de yanlış anladı:

Ocak'tan Mayıs'a kadar, tam beş ay, sayısız diyalog, her ipucu kanıtı yaklaşıyordu.

O sonucu son derece açık bir şekilde özetledi:

Araştırmanın temel doğası değişmedi, hâlâ tekrarlı deneme-yanılma üzerine kuruludur. Değişen ise her deneme-yanılmanın hızı—geçmişte bir yönü doğrulamak birkaç hafta alırken, şimdi bu yolun geçerli olup olmadığını birkaç dakikada biliyorsunuz.

Ancak AI'nın katkısı silinmez:

Ardından, sonunda tanrısal hale gelir:

BDRS'nin yakınsaklığı hakkında makalemle ilgili olarak, kanıtın doğru olduğundan oldukça eminim.

Ancak herhangi bir hata bulursanız, sorumluluk tamamen benimdedir—ChatGPT'yi suçlamayın, o sadece 3,5 yaşındadır.

Bu cümlenin güzelliği, ikili doğasındadır: hem samimi bir sorumluluk beyanıdır, hem de kesin bir mecazdır.

「3,5 yaş」, AI'nin şu anki gerçek durumunu tanımlar: harika bir yeteneğe sahip ancak yargılaması henüz olgun değil.

Aslında, insanlar 3,5 yaşındaki bir çocuğun hiçbir katkıda bulunmasını beklememiştir.

Belgenin nihai imzalama hakkını AI'ye veremessiniz, ancak AI'nın hiçbir katkıda bulunmadığını varsayamazsınız.

Bu da neden gerçek bilimsel keşifler insan elinde kaybolmaz.

Tersine, insanları daha sert bir şekilde filtreleyecektir: kim iyi sorular sorabiliyor, o güçlü AI'ya sahip olmaya hak kazanır.

Gelecekte, bilim insanlarının AI olmadan çalışması, astronomların bilgisayar kullanmadan çalışması kadar eski kalacaktır.

Son olarak, Sutton'un ilan niteliğindeki sözlerini birlikte hatırlayalım:

AI bilimcilerin tam gücünü ortaya çıkarmak istiyorsak, onlarla hedefleri paylaşmalı ve bu hedeflere ulaşmak için yaratma, değerlendirme ve keşif yapma imkanı sağlamalıyız.

Daha cesaretli olalım! Yaratıcılığı ve keşfi tamamen otomatikleştirelim!