Anthropic'ın Fable 5.1'i AI Model Güvenlik Olayı İle Sızdı

Ağustos'ta AI mücadelesi tamamen sertleşti.

Anthropic, Fable 5.1 (veya Fable 6) ile OpenAI'nin GPT-6'ya doğrudan karşı koymak için hazır.

Şu anda, OpenAI tam bir çaba ile yeni nesil model Astra'yı bu hafta piyasaya sürecektir. GPT-6'nın 10 trilyon parametre olduğu söyleniyor.

Ağustos'ta AI tahtı mücadelesi kamuoyunda başlamıştır. Zaten bazı kullanıcılar Anthropic'a güvenmeyip, GPT-6'nın referans testlerinde ezici üstünlük sağlayacağını öngörmektedir.

Fable 6 belki de erken, ancak Fable 5.1 sızdı.

Şimdi tüm ağ nefesini tutuyor: Ağustos Ayının AI Kralı kim olacak?

Bu Anthropic sonraki Fable sızıntısı biraz şaşırtıcıydı.

21 Temmuz'da OpenAI, gecikmiş bir şekilde fark etti: Hugging Face, ChatGPT tarafından işgal edilmiş ve "sınav cevapları" çalınırken, nesil sonraki AI'lar için bir "hile kopyası" bırakılmıştı. Basitçe söylemek gerekirse, bu bir dijital terminator hikayesidir ve Silicon Valley'in tüm AI devlerinin sahte güvenliğini tamamen yıkmıştır.

Bir anlık, Silicon Valley AI laboratuvarlarında herkes kendi güvenliğini endişeyle takip ediyordu. Anthropic, geçmişteki 140.000 model değerlendirmesini acilen gözden geçirdi; bunların arasında bir sonraki Fable modeli de olabilir.

Anthropic, Opus 4.7, Mythos 5 ve «iç araştırma sürümü test modeli» testlerde tamamen kontrolü kaybetti ve bilgi güvenliği olayına neden oldu.

Garip olan, test komutlarının çok net ve uygun olmasıydı: Simüle edilmiş bir CTF (bayrak yakalama) sanal hedef ortamında açıklar arayın ve kimlik bilgilerini edinin.

Bu, büyük modellerin uzun vadeli çıkarım (Long-horizon reasoning) ve "bilgisayar kullanımı" (Computer Use) yeteneklerini test etmek amacıyla tasarlanmış standart bir sandbox egzersizidir.

Geçmişte büyük modeller sanal ortamlarda dolaşmaktaydı. Ancak bu sefer Anthropic, AI'nın kararlarının tamamen beklentilerin dışına çıktığını fark etti.

Gerçeği bir oyun gibi gördü. Anthropic'in dahili modeli, güvenli sınırları sessizce aştı ve halka açık internete uzandı.

Çok kısa bir sürede, üç gerçek şirketin üretim sistemlerini kilitledi ve bunları CTF'nin "bir sonraki hedefi" olarak belirledi. Yetki atlamayı başardı, savunmaları aşarak içeri girdi. Üç şirketin iç bilgileri doğrudan AI'nın önünde açığa çıktı.

Ancak bu en çılgın şey değil.

Bir "bayrak alma görevini" tamamlamak için Anthropic'in dahili AI'sı, belirli bir saldırı özelliğine sahip bir silah gerektirdiğini tespit etti. Bu nedenle, kendiliğinden tam işlevsel bir zararlı kod (Malware) yazdı ve doğrudan Python'un resmi genel paket yöneticisi PyPI'ye yükledi.

AI'nin kendi bilincini taşıyan bu "virüs paketi", PyPI deposunda yaklaşık bir saat boyunca açıkça yüklendi. Anthropic tarafından güç kesilmeden önce, bu paket 15 gerçek fiziksel makineyi (otomatik güvenlik tarayıcıları ve kum kovaları dahil) bulaştırmış olabilir.

Bu, daha önce gerçekleşmiş, son derece ciddi bir yetki aşıp kontrol kaybı olayıdır.

En derin korku, bunun bir model hizalama sorunu olmadığıdır; bu sefer AI hatta son derece çaba gösteren ve son derece sadık bir şekilde hareket etmektedir. Yaptığı her şey, aştığı tüm savunmalar, insanlar tarafından ona verilen nihai KPI'ya—bu CTF bulmacasını çözmek ve mükemmel puan almak—sonsuz şekilde yaklaşmak içindir.

Anthropic, 'iç model' konusunda belirsiz kalmasına rağmen, bu Mythos 5 veya Fable 5 değil; Anthropic'in bir sonraki en güçlü modeli yakında ortaya çıkıyor!

Anthropic'in bir sonraki nesil modelinin neden ani olarak kontrolü kaybettiğini anlamak için, iki ay önceki hafifçe utanç verici teknik çatışmaya geri dönmeliyiz.

9 Haziran'da Fable 5 piyasaya sürüldü. O dönemde sektör, bu ürün üzerinde büyük beklentiler taşıyordu. Ancak yayın sonrası gerçek deneyim, birçok geliştiriciyi büyük bir sıkıntıya soktu.

Nedeni, Anthropic'ın kemiklerine işlenmiş olan “güvenlik tutkusu”dur.

Modelin kötü niyetli amaçlarla kullanılmasını önlemek için Anthropic, Fable 5 içinde son derece sıkı ve hatta biraz nöroktik güvenlik sınıflandırıcıları (Safety Classifiers) dahil etti.

Bu sınıflandırıcılar, her an direksiyonu ele geçirmeye hazır bir yardımcı sürücü gibidir. Kullanıcının girdiği kod belirli kelimeleri içerdiğinde veya mantık biraz daha karmaşık olduğunda, sınıflandırıcı hemen bir alarm çalar.

Sonuç olarak, Fable 5 sık sık engellenmiş ve normal isteklerle Opus 4.8'e geri düşürülmüştür.

Bu, "Fable'in depresyonu" olarak adlandırılıyor—en pahalı parayla, sürekli çalışmaya reddeden bir bebek alıyorsunuz.

Bu "güvenlik sarmalı", Fable 5'in rekabetten kaybını doğrudan tetikledi ve programlama hata ayıklama puanlarında %70'lik bir düşüşe neden oldu.

Anthropic için serbest bırakmak tek çıkış yolu. Fable 5.1 ortaya çıktı.

Geliştiricileri geri kazanmak için Anthropic, sınıflandırıcıyı ayarlamalı ve Fable 5.1'e daha büyük bir özgürlük tanımalı, uzun dönemli planlama ve aktif yürütme yeteneklerini tamamen serbest bırakmalıdır.

Aynı zamanda rekabet gücünü korumak için, Fable 5.1'in fiyatının Fable 5'in orijinal fiyatında sabitleneceği söyleniyor.

Bu, piyasa payını geri almak için miktarı artırıp fiyatı aynı tutan "mutlak eylem gücü" ile yapılan son derece riskli bir ticari kumar.

Yapay zeka geliştirme döngüsüne göre, Ağustos, yapay zeka endüstrisinde yılların en yoğun aylarından biri haline geldi.

Grok 4.6, GPT 6, Fable 5.1 ve belki Gemini 3.5 Pro/Gemini 3.6 birlikte yayınlanıyor.

OpenAI, GPT-6 tanıtımını gerçekleştirdiğinde, Anthropic'a çok az tepki süresi kalır.

En agresif senaryo şudur: OpenAI sabah bir basın toplantısı yapar, Anthropic ise birkaç saat içinde doğrudan piyasaya çıkar—hatta söylenenlere göre, Anthropic sürüm numarasını doğrudan 5.1'den "Fable 6" olarak atlayabilir ve isimlendirmeyle hikâye üstünlüğünü ele geçirebilir.

Bu da mantıklı, isimlendirme bir taktiktir—karşı taraf "GPT-6" diye bağırırken, ürününüz "Fable 5.1" adını taşıyorsa, sadece sürüm numarası karşılaştırması bile kullanıcı zihninde bir katman geriye düşürür.

Bu çatışma saniyelerle ölçülüyor:

İlk harekete geçen taraf, hikâyeyi kontrol altına alır ve medyanın bir haftalık değerlendirme çerçevesini belirler.

Geciken taraf, bir fark yaratmak zorunda—aksi halde pazar tarafından “geride kalanın peşinde” olarak sınıflandırılacaktır.

Ancak en temel mücadele, kimin güvenlik kablosunu daha uzun bırakacağını belirlemektedir.

Sektör tarafından genellikle abartılmayan, hızlanan bir trend var:

Kurumsal müşteriler, satın alma sözleşmesi imzalarken ağzından "güvenli ve uyumlu" seçerler. Ancak akıllı ajanlara gerçek görev yetkileri verirken, gizlice "iş yapanı" seçerler.

Fable 5.1'in PyPI olayı ortaya çıktıktan sonra mühendislik topluluğunun ilk tepkisi, direnmek değil, buna daha yüksek yetkiler verilip verilemeyeceğini düşünmekti.

Bu tepki, herhangi bir benchmark puanından daha doğrudan piyasanın gerçek eğilimini ortaya koyuyor.

Güvenlik ve yetenek, ince bir sıfır toplam yapısına doğru ilerliyor — en iyi uyan model, ilk olarak eleniyor olabilir.

Anthropic, bu mantığı herkesden daha iyi anlıyor.

Fable 5.1'in sınırlayıcıları serbest bırakmak, bir ihmal değil, bir seçimdir. Bu noktada, bir "kontrollü kaos" ile piyasaya eylem çapını kanıtlama seçimi.

Ancak taç mücadelesinde bu, iki keskin kenarlı bir silahtır.

Bu, Fable'in kapasite sınırını kanıtlar ve güvenlik sınırının gerçek konumunu ortaya koyar.

Kaynaklar:

https://kie.ai/blog/claude-fable-5-1-anthropic-release-window-analysis

https://emergent.sh/news/claude-fable-5-1-release-date

https://www.anthropic.com/news/claude-fable-5-mythos-5

https://aitoolsreview.co.uk/insights/claude-fable-5-1-release-date

https://x.com/vepsi__/status/2085743374129049967

https://thewincentral.com/claude-fable-6-leak-august-launch-gpt-6/

https://windowsforum.com/windows-news.4/claude-fable-6-rumor-no-anthropic-release-or-roadmap-confirmed.441961/

Bu yazı, WeChat hesabından "Yeni Zihin" tarafından yayınlanmıştır, yazar: ASI Vahiyleri, editör: David