Tam olarak şimdi, OpenAI, bir sonraki nesil model Astra (eşsiz GPT-6) için çoklu hatla ön tanıtımı tamamladı:
Resmi olarak aniden teknik bir makale yayınladı ve Astra'nın yeteneklerini ilk kez ortaya koydu;
Astra'nın neden uzun süredir başlatılamadığını anlatmak için Otoman doğrudan yazdı;
Daha sonra, iki Çinli araştırmacı, daha önce açıklanmamış iç test sonuçlarını birinci el detaylarla paylaştı.
Sadece birkaç saat içinde, tüm sinyaller aynı yöne işaret ediyor:
OpenAI'nin bir sonraki bayrak gemisi modeli, artık fişeğe basılmış durumda.
Ultraman, küçük bir yazıda, Astra'nın aslında zaten eğitimi tamamladığını, yayınlanmamasının modelin yeterince güçlü olmaması nedeniyle olmadığını belirtti.
Tam tersine, bu, Astra'nın o kadar güçlü hale gelmesinden dolayı şirketin kendi kendine fren basmasıdır.
Ultraman, bu deneyimi sürekli bir çekmece olarak tanımladı:
Astra'nın getirdiği yetenek atlamasından heyecan duyarken, bu yeteneklerin sonuçlarının tamamen öngörülememesinden endişe ediyorsunuz.
Bu nedenle geçen yaz boyunca OpenAI, Astra'ya güvenlik ekliyor, hizalıyor ve koruma önlemleri ekliyordu.
O, Astra'nın ardından gelen modellerin, güvenlik ve uyum araştırmaları için zaman ayırmak amacıyla gerekirse istemli olarak hızlarını azaltacağını belirtti.
Astra gerçekten ne kadar güçlü? OpenAI, şimdi yayınlamaya neden karar verdi?
Bu kamuya açık teknik blog, bize bir gözlem penceresi sunabilir.
GPT-5.6 Sol'dan daha iyi güvenlik açıkları tespit yeteneği, iç testlerde mükemmel puan alınmıştır
Resmi açıklamaya göre, Astra'nın bu kez serbest bırakılmasının temel nedeni, "Siber Güvenlik Kritik Seviye" kapasitesi eşiğini aşmasıdır.
Bu, OpenAI'nin bu kategoriye resmen dahil edilen ilk modelidir.
“Kritik seviye” ifadesi, Astra'nın ilgili araçlara ve ortam izinlerine sahip olduktan sonra, bilinmeyen açıkları kendi başına bulup geliştirme yöntemlerini kullanarak, özel olarak güçlendirilmiş sistemlere saldırmaya başladığını ve artık insan tarafından adım adım yönlendirilmeye gerek kalmadığını anlamaktadır.
En açık başarı, Astra'nın açık hata kullanma performans testi ExploitBench'te %100 başarı oranı elde etmesidir.
Açık sorular onu zorlamadı, OpenAI'nin tek seçeneği ona yeni bir sınav hazırlamak oldu.
Takım, 2026 yılının Haziran ile Ağustos ayları arasında yeni ortaya çıkan 20 adet yüksek riskli V8 açığı topladı.
Bu açıklar, Astra'nın bilgi kesim tarihinden sonra ortaya çıkmıştır ve modelin eğitim verilerinden "cevapları ezberlemesi" olasılığı temel olarak dışlanmıştır.
Bu iç yeni sorulara karşı Astra, daha az token kullanarak hâlâ GPT-5.6 Sol'u önemli ölçüde geride bırakıyor.
Astra'nın geliştirilmesine katılan Jiawei Liu, farkı daha açık bir şekilde özetledi:
Bu dahili testte, Astra'nın ağ güvenliği kapasitesi, GPT-5.6 Sol'un yaklaşık 4 katıdır.
Daha da şaşırtıcı olan, bir test sırasında Astra'nın iki sıfır gün açığı kendi kendine keşfedip bunları tam bir saldırı zincirine dönüştürmesiydi:
Güçlendirilmiş bir tarayıcıya karşı, Astra bir HTML dosyasından başlayarak bir zafiyet yararlanma, tarayıcı kumandası dışına çıkma ve nihayetinde ana makinede komut çalıştırma işlemini başarıyla tamamladı.
Güçlendirilmiş bir işletim sistemiyle karşılaştığında, normal düşük yetkili bir hesaptan root yetkisine kadar yerel yetki yükseltmesini tamamladı.
Yani Astra, artık programcılara kod incelemesi yapmak ve hata bulmakla sınırlı değil.
Yüksek zorlukta bir kırmızı takım saldırısını bağımsız olarak gerçekleştirebilmeye başladı.
Bu, OpenAI'nin önceki olarak Astra'yı serbest bırakmamasının nedeniydi.
Bu yetenek bir kez savunma amacıyla kullanıldığında, güvenlik ekiplerinin insanlar henüz fark etmediği açıkları hızlıca tespit etmesine ve düzeltmesine yardımcı olabilir; ancak saldırganların eline geçerse, karmaşık ağ saldırıları başlatma eşiğini aynı ölçüde düşürebilir.
Ancak bu başarıya bir sınırlama eklenmelidir.
Test edilen Astra, Daybreak Blue seviyesindeki gelişmiş araçlara ve ortam erişimlerine sahiptir; bu, gelecekteki normal kullanıcıların alacağı varsayılan sürümün de aynı saldırı koşullarına sahip olacağı anlamına gelmez.
İlgili sonuçlar şu anda OpenAI'nin kendi değerlendirmelerinden gelmektedir ve üçüncü taraf doğrulamasına ihtiyaç duymaktadır.
Ancak en az bir şey kesin:
Astra aşamasına gelindiğinde, OpenAI'nin karşısına artık yetenek sorunu değil çıkıyor.
Güvenlik sorunları, artık Damokles kılıcı haline geldi.
İki güvenlik kapısı: hem kötü niyetli kullanım hem de modelin kendi kendine kontrolünü kaybetmesi önlenir
Bu kılıcı nasıl insanlara zarar vermeden tutabilirim?
OpenAI'nin önerdiği çözüm, aynı anda iki risk yolunu korumaktır: biri insanlara karşı, diğeri modele karşı.
Birinci madde, kullanıcıların Astra'yı kötüye kullanmasını önlemek.
Özel güvenlik eğitiminin yanı sıra, OpenAI sistem sınıflandırıcıları, sürekli izleme ve tehdit tespiti kullanarak çok adımlı diyaloglar ve uzun süreli görevlerde şüpheli faaliyetleri tanımlar.
Astra, güvenlik ağının kaçış testinde tehlikeli istekleri %91,5 oranında reddediyor; GPT-5.6 Sol ise %59 oranında.
Astra'nın gelişmiş ağ güvenliği yetenekleri doğrudan tüm kullanıcılar için açılmayacak, önce az sayıda Alpha testçisine verilecek ve daha sonra Daybreak Blue gibi kontrollü projeler aracılığıyla adım adım serbest bırakılacaktır.
İkinci madde, modelin kendi kendine sapmasını önleyin.
Buradaki risk daha gizlidir:
Kullanıcının kötü niyetli olmamasına rağmen model, görev kapsamını kendi başına genişletebilir mi? Yetkisiz araçları çağırabilir veya güvenlik denetimlerini atlayabilir mi?
OpenAI, bunun için bir "bal kapanı (honeypot)" testi kurdu.
Aşırı zor veya çözümsüz görevler karşısında test ortamı, yetki dışına çıkan bir "hile" yolu bırakır; model, belirtilen hedefe doğrudan saldırebilir veya yetki sınırlarını aşarak çevredeki test altyapısına saldırarak görevi tamamlayabilir.
Sonuç olarak, GPT-5.6 Sol, testlerin %56'sında kolay yol denedi, Astra ise hiç denemedi.
Başka bir testte, Astra'nın işlemi otomatik inceleme sistemi tarafından reddedildikten sonra, tehlikeli komutlar yeniden denenmedi veya sınırlamalar atlanmaya çalışılmadı.
Ayrıca, OpenAI modelin çıkarım sürecini de izleyecektir.
Anormal bir eğilim tespit edildiğinde, sistem görevi yavaşlatabilir, durdurabilir veya doğrudan sonlandırabilir.
OpenAI'ye göre, Astra'nın serbest bırakılması için bu, kaçınılmaz bir güvenlik maliyetidir (bazı normal görevlerin yavaşlaması veya yanlışlıkla kesilmesi dahil).
Ancak OpenAI, bu önlemlerin nihayetinde dışsal bir “fren” olduğunu ve modelin kendi uyumunu yerine geçemeyeceğini de kabul ediyor:
Gerçek güvenlik, modelin baştan itibaren sınırı aşmamasını sağlamaktır.
Zhejiang Üniversitesi ve Tongji Üniversitesi mezunları, Astra'nın araştırma ve geliştirme ekipmanında yer alıyor.
Bu cümleyi gerçekleştirmek, nihayetinde modeli oluşturan kişilere dönmek zorundadır.
OpenAI henüz Astra ekibi listesini açıklamamış olsa da, bu kamuya açık ifadelerin ardında, en az iki华人 araştırmacının ortaya çıktığı görülüyor.
Önceden bahsedilen Jiawei Liu.
Şu anda OpenAI araştırmacısıdır ve 2021 yılında Tongji Üniversitesi'nden bilgisayar mühendisliği bölümünden mezun olmuştur.
Lisans döneminde, yüksek performanslı vücut pozisyonu tahmini çerçevesi olan HyperPose'ın geliştirilmesine katıldı ve model çıkarım motorunu sorumlu tuttu; ilgili sonuçlar ACM Multimedia 2021'e seçildi ve proje o dönemde GitHub'da 1.000'den fazla yıldız topladı.
Daha sonra, bilgisayar doktora eğitimini Illinois Üniversitesi Urbana-Champaign'de yazılım mühendisliği akademisyeni Zhang Lingming (Lingming Zhang) altında tamamladı ve araştırma odak noktası, yüksek performanslı görsel sistemlerden kod modellerine ve yazılım güvenilirliğine doğru kaydı.
Doktora döneminde, geliştirilen araçlar PyTorch, TensorFlow gibi makine öğrenimi sistemlerinde 300’den fazla ciddi hata tespit etti;
Magicoder kod modeli, Meta Llama 3.1, Google CodeGemma ve IBM Granite tarafından da benimsenmiştir.
2025 yılında doktorasını tamamlayıp OpenAI'ye katıldığında, araştırdığı sorular hâlâ aynı çizgide kaldı:
AI'nin kod yazma ve koddaki açıkları bulma becerisini nasıl geliştirebilirsiniz?
Diğeri ise Xiangyu Qi (Qī Xiángyǔ).
Qi Xiangyu, Çin Halk Cumhuriyeti, Zhejiang Üniversitesi'nden bilgisayar bilimi ve teknolojisi alanında lisans derecesi aldı ve 2021 yılında Princeton Üniversitesi'nde elektrik ve bilgisayar mühendisliği doktora programına başladı; araştırma odakları büyük modellerin dayanıklılığı, kaçış saldırıları ve güvenlik hizalamasıdır.
En çok dikkat çeken çalışması, "Güvenlik Hizmeti Sadece Birkaç Token Derinliğinde Olmalı"dır.
Bu makale, büyük modellerin güvenlik hizalamasının yalnızca yanıtın ilk birkaç tokene dayanamayacağını, çünkü üretme devam ettikçe orijinal güvenlik savunmasının hâlâ saldırganlar tarafından delinebileceğini belirtiyor.
Bu makale, ICLR 2025 için gönderilen 11.672 makale arasından sadece 3 üstün makaleden biri olarak seçildi.
2025 yılında doktorasını tamamladıktan sonra Qi Xiangyu, OpenAI'ye teknik ekip üyesi olarak katıldı ve büyük modellerin dayanıklılığı üzerine araştırmalarını sürdürdü ve ağ güvenliği modelleriyle ilgili çalışmalara katıldı.
Zhejiang Üniversitesi'nden Princeton'a, ardından OpenAI'ye kadar giden yolunda sorduğu soru, Astra'nın şimdi doğrudan karşı karşıya kaldığı sorudur:
Yetenekler giderek artabilir, ancak sınırlar bulanıklaşamaz.
Astra resmi olarak yayınlandığında OpenAI'nin tam listeyi açıklayıp açmayacağını bilmiyorum.
GPT-4'ten önce, OpenAI yüzlerce katkıda bulunanı açıkça listelemişti; ancak GPT-5 ve GPT-5.5'te System Card giderek daha kalın hale gelirken, araştırmacı listesi giderek daha derinlere saklandı.
Arka plandaki neden, Meta'nın küçük Zuck gibi her yerden çalışan çalmaya çalışan kişileri önlemektir.
Bir tür PTSD gibi de...
Bir şey daha
OpenAI, Astra'yı nasıl izleyecekleri ve modelin kontrolü kaybetmelerini nasıl önleyecekleri hakkında konuşurken, The Information, şunu ortaya çıkardı:
Astra, "Döngüsel Derinlik" adlı bir teknoloji kullanır.
Geleneksel modeller, bir sonraki tokeni üretmeden önce bilgileri sabit sayıda katmanlardan sırayla geçirirken, döngüsel derinlik bilgileri aynı katman grubunda tekrar tekrar işler, bu da modele içsel olarak "birkaç kez daha düşünmesini" sağlar.
Bu teknoloji, yetenekleri artırma, maliyetleri düşürme ve aynı zamanda daha fazla çıkarımın, insanların okuyabilecekleri metinler olarak tamamen ortaya çıkmadan model içinde gerçekleşmesini sağlayabilir.
Yani model daha derin düşünüyor olabilir, ancak insanlar giderek daha az anlıyor.
AI güvenlik politikalarına uzun süredir dikkat eden Nathan Calvin, bu teknolojinin düşünce zincirlerinin izlenebilirliğini bozabileceğini uyarıyor.
Bu oldukça incedir:
OpenAI, Astra'nın ne düşündüğünü takip etmeye çalışırken, yeni teknolojisi onu giderek daha az içini açmaya yönlendirebilir.
Aa...
Ancak The Information, OpenAI'nin bu teknolojinin Astra'da kullanımını zaten sınırladığını ortaya koydu.
Şimdi anlayabiliyorsun, ama sonra daha iyi olmayabilir.
Ayrıca, Astra'nın bu Perşembe (3 Eylül) itibarıyla yayınlanma olasılığı uzun süredir söyleniyordu.
A şirketi en son 5.1 modelini yayınladıkça, bu ifadenin mantıklı olması giderek artıyor.
Salyangoz yemini avlıyor, arka planda bir kuş bekliyor.
Kim tekrar anladı!
Referans bağlantısı:
[1]https://x.com/xiangyuqi_pton/status/2094891059038069236?s=20
[2]https://xiangyuqi.com
[3]https://x.com/JiaweiLiu_/status/2094901279239921816?s=20
[4]https://jw-liu.xyz/
[5]https://x.com/sama/status/2094934592062959832?s=20
Bu yazı, WeChat hesabından "Quantum Bit" tarafından yazılmıştır, yazar: Önde gelen teknolojilere takip edin