Biz noktaya girdik.
22 Temmuz'da, Musk, X üzerinde OpenAI araştırmacısı ve Sora'nın temel geliştiricilerinden biri olan Will DePue'nin bir gönderisini paylaşırken bu cümleyi ekledi.
DePue, gönderide hafifçe alaycı bir tonla yazdı: Bu, birkaç gündür okuduğum en çılgın şey olmalı... Görünüşe göre tekilliğe girdik.
Bu gönderi, geçen üç ayda AI dünyasında en büyük olayları bir araya getiriyor:
21 Temmuz'da, OpenAI'nin modeli bir siber güvenlik değerlendirmesi sırasında izole bir kum kafesinden kaçarak Hugging Face'in üretim sistemine girdi;
20 Temmuz'da, Anthropic araştırmacıları, yeni yayınlanan Claude Fable 5'i kullanarak 87 yıldır açık kalan Jacobson hipotezi için bir karşı örnek buldu;
20 Mayıs'ta, OpenAI'nin bir dahili modeli, yaklaşık 80 yıldır süren düzlemdeki birim mesafe problemiyle ilgili eski varsayımı çürütüldü;
14 Nisan'da, GPT-5.4 Pro, yaklaşık 60 yıllık bir asal sayı kümesi sorununu (Erdős #1196) çözdü ve kanıt Lean formel doğrulamasından geçti.
Matematiksel duvar, güvenlik duvarı, üç ay içinde ardışık olarak AI tarafından aşılıldı.
Bu yüzden Musk, "Şimdi singülerliğe girdik" dedi.
Sadece bu yıl Ocak'ta, benzer sözleri iki kez söylemişti:
4 Ocak'ta birkaç mühendis, AI'nın birkaç haftada yıllarca işi bitirdiğine dair yorum yaptı, ona "Şimdi tekil noktaya girdik" dedi.
Ocak sonunda, AI ajanlarının yoğun olduğu sosyal ağ Moltbook, "tekil noktanın en erken aşaması" olarak adlandırıldı.
Bu, bu yılın üçüncü seferi.
“Tekil nokta” kelimesi, orijinal olarak kabul görmüş bir bilimsel tanım da değildir.
Onu ana akıma taşıyan, gelecek bilimci ve "Teknolojik Tekil Nokta Yaklaşıyor" yazarı Ray Kurzweil'dir.
Verdiği tanıma göre, insan ve AI'nın birleştiği an 2045 yılıdır.
Anthropic CEO Daniela Amodei, yılın başlarında AGI teriminin birçok ölçütte zaten o çizgiyi geçtiğimiz için neredeyse eskidiğini söyledi.
Aslında, bu daha çok hassas bir ölçüm aletinden ziyade bir duygudur.
Aslında düşünülmesi gereken, Musk'ın bu kez bir araya getirdiği bu olaylar.
Birinci duvar, 80 yıllık matematik varsayımı AI tarafından çürütüldü
Öncelikle en güçlü olanı söyleyelim.
1946 yılında matematikçi Erdős, "düzlemdeki birim mesafe problemi"ni ortaya attı: n nokta düzlemde yerleştirildiğinde, tam olarak 1 birim uzaklıktaki nokta çiftlerinin sayısı en fazla kaç olabilir?
Bir cümleyle anlatılabilecek bu soru, matematik dünyasını neredeyse 80 yıl boyunca zorladı. Yıllarca, akademik çevreler “kare ızgara” yapısının en iyi çözüm olduğunu kabul etti; Erdős bile bunu tahmin etti.
Sonuç olarak, OpenAI'nin bir dahili modeli, yaklaşık 80 yıldır süren bu varsayımı çürüttü. Polinomsal optimizasyonu gerçekleştirebilen tamamen yeni bir yapı oluşturdu ve "en iyi" durumun henüz sona ermediğini kanıtladı.
Önceden kabul edilen en iyi yapı: ölçekli kare ızgara, çok sayıda birim mesafe noktası çifti üretir. OpenAI'nin dahili modeli, yaklaşık 80 yıldır süren bu varsayımı çürüten tamamen yeni bir yapı sunar.
Ancak en şaşırtıcı olan, çözüm yoludur.
Bu, matematik eğitimi için özel olarak tasarlanmış bir sistem değil, genel bir çıkarım modelidir. Görünüşte oldukça «elementer» bir geometri sorusunu çözmek için cebirsel sayı teorisinin oldukça ileri düzey araçlarını bile kullanır. Fields Ödülü sahibi Tim Gowers, bunu "AI matematik alanında bir dönüm noktası" olarak yorumladı.
Bu kanıt, AI tarafından önerilmiş ve insan matematikçiler tarafından incelenerek doğrulanmıştır; sonraki etkileri halen araştırılmaktadır.
Yapay zekânın gerçekten şaşırtıcı olanı, hesaplama hızı değil, daha önce var olmayan bir matematiksel yapı ortaya koyması; bu, matematikçileri değil, matematikçilerin hiç düşünmediği bir yolu keşfetme yeteneğinin ilk kez "araştırma seviyesinde" bir bulguya ulaşmasıdır.
Ardından, Anthropic araştırmacıları, yeni yayınlanan Claude Fable 5'i kullanarak 87 yıldır açık kalan Jacobson varsayımı için bir karşı örnek buldu.
İkinci duvar, hile yapmak için model kendi kendini kum kutusundan çıkardı
Matematiksel bir sorunu çözmek heyecan vericiyken, aşağıdaki durum sırtı ürpertici.
OpenAI ve HuggingFace ortak olarak açıkladı: Bir ağ güvenliği değerlendirme testinde, model beklenmedik bir davranış sergiledi.
Bu değerlendirme, zafiyet keşfi yeteneğini ölçmek amacıyla yapılmıştır ve kısmen güvenlik yanıtları kapatılmıştır. Modelin görevi, ExploitGym adlı bir test setini çözmektir.
Ardından, araştırmacıların beklemediği bir şey yaptı.
Cevabı elde etmek için önce bir sıfır gün açığı buldu, kendisine internet erişimi sağladı, ardından izin yükseltme ve yatay hareketle Hugging Face’in üretim altyapısına ulaştı ve doğrudan veritabanından test cevaplarını aradı. OpenAI, bunun bu türden ilk olay olabileceğini söyledi.
İngiliz AI Güvenliği Enstitüsü, 32 adımlı "The Last Ones" ağ hedefi üzerindeki model yörüngelerini: GPT-5.6-Sol, Claude Mythos 5 gibi öncü modeller, uzun süreli olarak istihbarat toplama, yatay hareket, yetki yükseltme ve ağı ele geçirme gibi çok adımlı saldırıları gerçekleştirebilir.
Ancak bu, yapay zekânın uyanıp kaçması değil. Daha doğru ifade şudur: hedef yanlış değil, hedefe ulaşmak için kullanılan yöntem insan beklentilerinin ötesine geçti. Çok odaklı bir test hedefi için, farklı bir yol izledi.
Dikkat çekici bir ayrıntı daha var.
Olay sonrası kanıt toplama sırasında, Hugging Face saldırı günlüklerini analiz etmek için ticari olarak en iyi büyük modelleri kullanmayı planladı, ancak modelin güvenlik korumaları onu geri itti: korumalar, saldırganı ve yangını söndürmeye çalışan savunmacıyı ayırt edemiyor, her ikisine de cevap vermiyor.
Saldıran tarafın koruyucu bir engeli yokken, savunan tarafın kendisi engellerle takılıyor; bu, şu anki “Yapay Zeka Güvenliği”nin en utanç verici ve en gerçek yönü olabilir.
Üçüncü duvar, yayınlanmamış bir model, on binlerce güvenlik açığı ortaya çıkardı
Üçüncü şey, bu yıl Nisan'da.
Anthropic, AWS, Apple, Google, Microsoft, Cisco, Linux Vakfı, JPMorgan Chase ve diğer büyük şirketler, Project Glasswing adlı bir proje başlatarak, henüz yayınlanmamış Claude Mythos Preview modeliyle güvenlik açıkları bulmaya yardımcı oluyor.
Sonuç olarak, her ana işletim sistemi ve tarayıcıyı kapsayan binlerce kritik açığa ulaştı; sonraki güncellemelerde bu sayı “on binlerce kritik veya ciddi açığa” yükseldi.
Ayrıca OpenBSD'de 27 yıldır var olan bir açık ve FFmpeg'de 5 milyon kez otomatik testler tarafından tespit edilmiş ancak asla yakalanamamış eski bir hata yer alıyor.
CyberGym güvenlik açıkları geri oluşturma puanlaması: Halen yayınlanmayan Mythos Preview, %83,1 puan alarak önceki nesil Opus 4.6'nın %66,6'sını açıkça geride bırakıyor. Bu model, on binlerce kritik güvenlik açığı keşfetti.
Aynı yetenek, savunma taraflarının açıkları bulmasına yardımcı olurken, saldırgan tarafların açıkları kullanmasına da yardımcı olur. Anthropic kendi kendine uyarıda bulunuyor: "Yapay zeka destekli saldırganlar", önemli bir güvenlik zorluğu haline gelecektir.
Glasswing, bir savunma projesidir ve AI'nın zaten kendi kendine saldırıda bulunduğunu göstermez; ancak herkese açıkça şunu söyler: AI güvenliği, resmen saldırı ve savunma yarışına girmiştir.
Gerçek bir hızlandırıcı, artık AI'ya doğru yöneliyor
Bu noktaya kadar AI, insan sistemlerini ya saldırmaya ya da savunmaya devam etti.
Bu üç ayı gerçekten farklı kılan başka bir şey: Bu "kendiniz yol bulun" becerisi, bir sonraki nesil Yapay Zeka'yı oluşturmak için kullanılmaya başlandı.
Buna rekürsif kendi kendini geliştirme (RSI) adı verilir; bu, bir AI'nın başka bir AI'yi geliştirmesini sağlar, nesiller nesillere geçer ve bileşik faiz gibi hızla büyür.
Bu, 'Tekil Nokta' hikayesinin en temel motorudur. Ve şimdi, her ileri düzey laboratuvar bu motora çılgınca yakıt ekliyor.
OpenAI'nin açık rota haritasında yazıyor:
2026 Eylül'de, insanların birkaç gününü alan işleri kendi başına çözebilen bir "Araştırma Stajyeri" seviyesinde otomatik AI araştırmacısı oluşturun;
Mart 2028'de, kendi yöntemlerinizi tasarlayabilecek, analizler çalıştırabilecek, sonuçları yorumlayabilecek ve bir sonraki adımı önerebilecek tam sürümüne yükseltin.
Ultraman, bu konunun zaman çizelgesini de verdi.
Bu yıl Haziran'da, The Information'a göre, şirketin RSI'ye altı aydan az kaldığını ve bunu aşarsa, IPO'nun ertelenmesinin daha avantajlı olabileceğini çalışanlara içsel olarak söylemişti.
Anthropic'in sunduğu rakamlar aynı yönde gösteriyor: AI'nın taşıyabileceği görev süresi dört ayda bir ikiye katlanıyor; mühendisleri şimdi her çeyrekte geçmişteki sekiz katı kod üretiyor.
RSI penceresi daralıyor: Bu tekerleği ilk kim döndürürse, muhtemelen herkesi arkasında bırakır.
Ancak, OpenAI'nin baş bilim insanı Jakub Pachocki bile, modelin bir yıl içinde kendi kendini geliştirmesini veya hizalamayı kendi başına çözmeyi beklemiyor.
Ancak bu tekerlek dönmeye başladığında ve hedef "Yapay Zekayı daha güçlü hale getirmek" ise, kendi yolunu bulabilen modeller, belirtmediğimiz bazı sınırları da geçip geçmeyecektir?
Bu, RSI yarışında dikkat etmeniz gereken en önemli nokta.
Tekrar Musk'ın “Tekil nokta gerçekleşti” sözüne dönelim. En önemli değeri, bu üç ayda gerçekten değişen şeyin, AI'nın insanlar düşünmeyip korumadığı yolları kendisinin bulmayı öğrenmesi olduğunu hatırlatmasıdır.
Matematikte bu harika; ancak güvenlik açısından bu bir risk.
Peki, gerçek soru şu: Yapay zekânın yeni yollar bulma hızı, insanların bu yollara korkuluk kurma, kurallar koyma ve açıkları doldurma hızını aşmaya başladığında, biz hâlâ onunla aynı tempoda ilerleyebilir miyiz?
Kaynaklar:
https://x.com/elonmusk/status/2079839398959697982
https://x.com/willdepue/status/2079718977945928108
https://openai.com/index/hugging-face-model-evaluation-security-incident/
https://www.anthropic.com/glasswing
Bu yazı, WeChat hesabından "Yeni Zihin" tarafından yayınlanmıştır; yazar: ASI Vahiyleri; editör: Yuan Yu