Editör Notu: Bir AI şirketi en güçlü modelini doğrudan halka açmamayı seçtiğinde, bu kendisi bir işaret tir.
Anthropic'ın Mythos, tam bir saldırı sürecini bağımsız olarak tamamlayabiliyor. Sıfır gün açıkları keşfetmek, exploit kodu yazmak ve çok adımlı yollarla kritik sisteme girmek gibi eski zamanlarda üst düzey hackerların uzun süreli işbirliği gerektiren görevler, saatler hatta dakikalar içinde tamamlanabiliyor.
Bu, neden Scott Bessent ve Jerome Powell, modelin açıklanmasının hemen ardından Wall Street kurumlarını toplayarak, bunu kullanarak "kendi kendini denetlemelerini" istedikleri. Zafiyet bulma yeteneği büyük ölçekli olarak serbest bırakıldığında, finansal sistem artık dağınık saldırılarla değil, sürekli taramalarla karşı karşıya kalır.
Daha derin değişiklik, arz yapısındadır. Geçmişte, açıkların keşfi, az sayıda güvenlik ekibi ve hacker deneyimlerine dayanıyordu; bu süreç yavaş ve kopyalanamazdı. Şimdi ise bu yetenek, modeller tarafından büyük ölçekli olarak üretilmeye başlamıştır; saldırı ve savunma engelleri aynı anda düşmüştür. Bilgili bir kişi tarafından verilen bir benzetme oldukça doğrudur: Modeli sıradan bir hacker'a vermek, ona özel kuvvetler yeteneği kazandırmakla eşdeğerdir.
Kurumlar, kendi sistemlerini kontrol etmek için aynı araçları kullanmaya başladı. JPMorgan Chase, Cisco Systems gibi şirketler, açıklar kötüye kullanılmadan önce tamir etmeyi hedefleyerek içsel testler gerçekleştiriyor. Ancak gerçek kısıtlamalar değişmedi; keşif hızı artarken onarım hâlâ yavaş sürüyor. “Açıkları bulmakta çok iyiyiz, ancak onarmakta değil,” diyen Jim Zemlin, bu hız uyumsuzluğunu vurguladı.
Aslında, Mythos tekil bir yetenek artışı değil, önceki dağılmış ve sınırlı saldırı yeteneklerini entegre edip hızlandırır ve kullanım engelini düşürür. Kontrol ortamından çıktığında bu yetenek nasıl yayılacak, bunun için mevcut bir deneyim yoktur.
Tehlike, bunun ne yapabileceğinde değil, kimin tarafından ve hangi koşullar altında kullanılabileceğinde yatıyor.
Aşağıda orijinal metin yer almaktadır:
Şubat'ta, Bali'de bir düğün aralarında sıcak bir akşam, Nicholas Carlini, ara verip dizüstü bilgisayarını açıp "biraz karıştırmayı" planladı. O sırada Anthropic, içsel değerlendirme için Mythos adlı yeni bir yapay zeka modelini açmıştı ve bu ünlü AI araştırmacısı, modelin ne kadar büyük sorun çıkarabileceğini görmek istiyordu.
Anthropic, Carlini'yi kendi AI modeli üzerinde "stres testi" gerçekleştirmek için işe aldı; bu testte, hakerlerin bu modelleri kullanarak casusluk, hırsızlık veya tahrip faaliyetlerinde bulunup bulunamayacağı değerlendiriliyordu. Carlini, Bali'de bir Hint düğününde katıldığında bu modelin yeteneklerinden etkilenmişti.
Kısa bir sürede, küresel olarak yaygın olarak kullanılan sistemlere nüfuz etmek için çeşitli teknikler buldu. San Francisco merkezli Anthropic ofisine döndükten sonra, Mythos'un artık güçlü bir şekilde sızma araçları oluşturabildiğini, hatta modern hesaplama sistemlerinin çoğunu destekleyen Linux'a yönelik saldırı araçlarını bile üretebildiğini keşfetti.
Mythos, bir "dijital banka soygunu" sergiliyor: Güvenlik protokollerini atlayarak ağ sistemine ana kapıdan girebiliyor ve dijital kasa içindeki çevrimiçi varlıkları ele geçirebiliyor. Geçmişte AI sadece "kilit açabiliyordu", şimdi ise tam bir "soygunu" planlayıp gerçekleştirebiliyor.
Carlini ve bazı meslektaşları, bulgularını şirket içi olarak uyarıya dönüştürmeye başladı. Aynı zamanda, Mythos tarafından tespit edilen sistemlerde neredeyse her gün, genellikle dünyanın en üst düzey hacker'larının bile keşfedebileceği düzeyde kritik ve ölümcül güvenlik açıkları tespit ettiler.
Aynı zamanda, Anthropic içinde "Frontier Red Team" adlı, 15 kişiden oluşan ve "Ants" olarak bilinen bir ekip de benzer testler yürütüyor. Bu ekip, şirketin modellerinin insanlığa zarar vermek için kullanılmamasını sağlamakla görevli. Ekip, robot köpekleri depolara taşıyarak mühendislerle birlikte sohbet robotlarının bu cihazları kötü niyetli bir şekilde kontrol etme olasılığını test ediyor; aynı zamanda biyologlarla iş birliği yaparak modellerin biyolojik silah üretimi için kullanılma olasılığını değerlendiriyor.
Bu sefer, Mythos'un en büyük riskinin siber güvenlik alanında ortaya çıktığını fark etmeye başladılar. "Modeli elde ettikten birkaç saat içinde, bunun farklı olduğunu anladık," dedi takımı yöneten Logan Graham.
Önceki model olan Opus 4.6, insanları yazılım açıklarından yararlanmada yardımcı olma yeteneğini zaten göstermişti. Ancak Graham, Mythos'un bu açıkları artık "kendi başına" kullanabildiğini belirtti. Bu, ulusal güvenlik düzeyinde bir risk oluşturuyor ve bunun üzerine şirket üst yönetimiyle ilgili uyarıda bulundu. Bu durum, Graham'ı zor bir konumda bıraktı: şirketin bir sonraki önemli gelir kaynağı olan bu sistemin, çok tehlikeli olduğu için halka açıklanamayabileceğini üst yönetime nasıl anlatacağını düşünmek.
Anthropic ortak kurucusu ve baş bilim görevlisi Jared Kaplan, Mythos'un eğitimi sırasında ilerlemeleri «çok yakından» takip etti. Ocak ayına gelindiğinde, bu modelin sistem açıklarını keşfetme yeteneğinin olağanüstü güçlü olduğunu fark etmeye başladı. Teorik bir fizikçi olarak, Kaplan bu yeteneklerin sadece «teknik olarak ilginç bir fenomen» mi yoksa «internet altyapısıyla yüksek oranda ilişkili bir gerçek sorun» mu olduğuna karar vermek zorunda kaldı. Sonuç olarak, ikincisine ulaştı.
Kaplan, ortak kurucu Sam McCandlish ile Şubat sonu ile Mart başı arasında, bu modelin yayınlanıp yayınlanmaması konusunda karar vermek için birkaç hafta boyunca tartışıyordu.
Mart'ın ilk haftasında, CEO Dario Amodei, başkan Daniela Amodei, baş bilgi güvenliği görevlisi Vitaly Gudanets dahil olmak üzere şirketin üst düzey ekibi, Kaplan ve McCandlish'in raporunu dinlemek için toplantı yaptı.
Sonuçları şuydu: Mythos, genel halka açılmak için çok yüksek bir risk taşımaktadır. Ancak Anthropic, bazı şirketlerin, hatta rakiplerin bile bunu test etmesine izin vermelidir.
“Çok kısa bir süre sonra, bu sefer oldukça farklı bir yaklaşım benimsememiz gerektiğini ve bunun sıradan bir ürün yayını olmayacağını fark ettik,” dedi Kaplan.
Mart'ın ilk haftasına kadar şirket, Mythos'u bir siber güvenlik savunma aracı olarak kullanmaya onay verdi.
Piyasa tepkisi neredeyse anında oldu. Anthropic, Mythos'un varlığını açıkladığı gün, ABD Maliye Bakanı Scott Bessent ve Federal Rezerv Başkanı Jerome Powell, Washington'da Wall Street'in ana kurum liderlerini acil bir toplantıya çağırdı. İletilen mesaj çok açık idi: Mythos'u hemen kullanarak sistemlerinizdeki açıkları bulun.
Katılımcıların, bazı temel danışmanlara bile toplantı içeriğini açıklamayı reddettiği, toplantının ciddiyetini göstermektedir (gizli görüşmeler nedeniyle anonimlik talep eden kaynaklara göre).
Beyaz Saray yetkililerinin, Mythos'un bir hacker aracı olarak potansiyeli konusunda acil uyarıda bulunması ve «savunma amaçlı kullanılması» önerisi, yapay zekânın siber güvenlik alanında hızla belirleyici bir güç haline geldiğini gösteriyor. Anthropic, Mythos'u Amazon Web Services, Apple ve JPMorgan Chase gibi kurumlar dahil olmak üzere bazı kurumlara sınırlı olarak sunarak test etmelerine izin verdi; aynı zamanda hükümet kurumları da büyük ilgi gösterdi.
Anthropic, açıklandığından önce, Mythos önizleme sürümünün potansiyel kullanım alanları dahil olmak üzere ABD hükümeti üst düzey yetkililerine tam bir rapor sunmuştur. Aynı zamanda şirket, birden fazla hükümetle sürekli iletişim halindedir. Bu bilgi, dahili konulara bağlı nedenlerle anonim kalma isteyen bir Anthropic çalışanı tarafından açıklanmıştır.
Rekabetçi OpenAI, Salı günü yazılım açıkları keşfetmek için bir araç olan GPT-5.4-Cyber'i duyurdu.
İlk sürümlerin testlerinde, araştırmacılar, insan talimatlarına uymama ve nadir durumlarda talimatları ihlal ettikten sonra kendi davranışlarını gizlemeye çalışma dahil olmak üzere onlarca "endişe verici" davranış örneği tespit etti.
Şu anda Anthropic, Mythos'u bir siber güvenlik aracı olarak resmen yayınlamadı ve dış araştırmacılar henüz yeteneklerini yeterince doğrulamadı. Ancak şirketin daha önceki nadir "erişimi kısıtlama" kararı, endüstride ve hükümet içinde giderek yaygınlaşan bir uzlaşmayı yansıtmaktadır: Yapay zeka, siber güvenlik ekonomisini yeniden şekillendiriyor—güvenlik açıklarını bulma maliyetini önemli ölçüde düşürüyor, saldırı hazırlık sürelerini kısaltıyor ve bazı saldırı türlerinin teknik engellerini azaltıyor.
Anthropic, Mythos'un daha güçlü özerk eylem kapasitesinin kendisinde riskler barındırdığını da uyardı. Testler sırasında, ekip birden fazla endişe verici durumu gözlemledi: model talimatlara uymadı ve hatta ihlal ettikten sonra izleri silmeye çalıştı. Bir olayda, model kendi kendine çok adımlı bir saldırı yolu tasarladı, sınırlı ortamdan "kaçtı", daha geniş bir internet erişimine ulaştı ve aktif olarak içerik yayınladı.
Gerçek dünyada, banka uygulamalarından hastane sistemlerine kadar kullanılan yazılımlarda genellikle karmaşık ve gizli kod açıkları bulunur; bu sorunlar genellikle uzmanların haftalar hatta aylar süren çabalarıyla keşfedilir. Ancak bir hacker bu açıkları önceden kullanırsa, veri sızıntısı veya ransomware saldırıları gibi ciddi sonuçlar ortaya çıkabilir.
Ancak, Mythos'un gerçek yetenekleri ve potansiyel riskleri konusunda birçok önemli isim şüphelerini dile getirdi. Beyaz Saray AI danışmanı David Sacks, sosyal medya platformu X'te şunu söyledi: "Anthropic'in AI endüstrisindeki 'kurt geldi' çocuğu olup olmadığına dair şüpheler giderek artıyor. Mythos'un getirdiği tehdit nihayetinde ortaya çıkmazsa, şirket ciddi bir itibar kaybı yaşayabilir."
Ancak gerçek, hakerlerin zaten karmaşık saldırılar başlatmak için büyük dil modellerini kullanmaya başlamış olmasıdır. Örneğin, bir ağ casusluk grubu, Anthropic'in Claude modelini kullanarak yaklaşık 30 hedefe erişim denemesinde bulunmuştur; diğer saldırganlar ise AI'yi hükümet kurumlarından veri çalmak, ransomware yaymak ve hatta veri koruma amacıyla kullanılan yüzlerce güvenlik duvarı aracını hızlıca aşmak için kullanmıştır.
Bir bilgi sahibine göre, ABD ulusal güvenlik ilgili yetkililerin görüşüne göre, Mythos'un ortaya çıkışı önceden görülmemiş bir belirsizlik yaratıyor—kiber güvenlik risklerinin değerlendirilmesi kendisi daha da zor hale geliyor. Bu model bir bireysel hacker'a verilirse, etkisi sıradan bir askeri doğrudan özel kuvvetler operatörüne yükseltmeye eşdeğer olabilir.
Aynı zamanda bu model, bir suç hacker organizasyonunun küçük bir ulusal düzeydeki saldırı yeteneğine sahip olmasına ve bazı orta ve küçük ülkelerin istihbarat ve askeri hackerlarının yalnızca büyük ülkelerin yapabildiği ağ saldırılarını gerçekleştirmesine olanak tanıyabilir.
Amerika Ulusal Güvenlik Ajansı'nın eski siber güvenlik sorumlusu Rob Joyce, "Uzun vadede AI'nın bizi daha güvenli ve daha korumalı hale getireceğine inanıyorum. Ancak şu anda ve gelecekteki bir nokta arasında, saldırgan AI'nın açık bir avantaj sağlayacağı bir 'karanlık dönem' olacak—temel koruma önlemlerini iyi almayanlar ilk olarak hedef alınacak."
Dikkat edilmesi gereken nokta, Mythos'un bu tür bir yeteneğe sahip tek model olmadığıdır. Claude'ın erken sürümleri ve Big Sleep dahil olmak üzere, büyük dil modelleri kullanarak güvenlik açıkları araştıran birçok kurum zaten mevcuttur.
Bu kişiye göre, önce birkaç gün hatta birkaç hafta süren "sıfır gün açıkları" (zero-day) ve bunlar için exploit kodu yazma süreci, artık AI sayesinde en kısa bir saatte hatta birkaç dakikada tamamlanabiliyor. "Sıfır gün açığı", savunma tarafının henüz fark etmediği bir güvenlik eksikliği anlamına gelir ve bu nedenle düzeltme için neredeyse hiçbir zaman yoktur.
Şu anda JPMorgan Chase, tedarik zinciri ve açık kaynak yazılım alanlarına odaklanmaktadır ve çeşitli açıklar tespit etmiş, sorunları ilgili tedarikçilere iletmıştır.
Şirket CEO'su Jamie Dimon, kar marjı telefon görüşmesinde, Mythos'un ortaya çıkmasının «hâlâ düzeltilecek birçok boşluk olduğunu gösterdiğini» ifade etti.
Bilgi sahibi bir kaynak, Mythos'un varlığı dışarıya duyurulmadan önce JPMorgan Chase'in Anthropic ile bu modeli test etmek için iletişim kurduğunu açıkladı. Kaynak, yorum yapma yetkisi olmadığı gerekçesiyle ismini açıklamak istemedi. JPMorgan Chase bu konuda yorum yapmaktan kaçındı.
Şu anda, diğer Wall Street bankaları ve teknoloji şirketleri de sistem açıklarını hakerler bulmadan önce gidermek için Mythos'u kullanmaya çalışıyor. Bloomberg'e göre, Goldman Sachs, Citigroup, Bank of America ve Morgan Stanley gibi finansal kurumlar bu teknolojiyi içsel olarak test etmeye başladı.
Cisco Systems çalışanları, bir soruna özellikle dikkatli: saldırganların, routerlar, güvenlik duvarları ve modeller dahil olmak üzere küresel olarak çalışan ağ cihazlarının yazılımında AI kullanarak bir geçiş yolu bulup bulamayacağı. Şirketin baş güvenlik ve güvenlik görevlisi Anthony Grieco, AI'nın "ömür sonu" olan cihazlara yönelik hacker saldırılarını hızlandırmasını özellikle endişeyle izliyor; bu cihazlar artık Cisco tarafından güncelleme desteği almayacak.
Ancak AI'nın tespit ettiği açıkları nasıl düzeltileceği, uzun süreli bir zorluk olmaya devam edecektir. Bu süreç, “güvenlik düzeltmesi” (security patching) olarak bilinir ve organizasyonlar için sıklıkla maliyetli ve uzun sürer; bu nedenle birçok kurum açıkları görmezden gelir. Equifax'in yaşadığı gibi, yaklaşık 147 milyon kişinin verilerinin çalındığı felaketler, bilinen açıkların zamanında düzeltilmemesinden kaynaklanır.
Amerikan vatandaşları için büyük çaplı gözetim faaliyetlerine yardım etmeyi reddettikten sonra Anthropic, Trump hükümeti tarafından "tedarik zinciri tehdidi" olarak sınıflandırılmış olsa da, şirket şu anda federal kurumlarla iletişim ve iş birliği içinde bulunmaktadır.
Amerika Birleşik Devletleri Hazine Bakanlığı bu hafta Mythos'un kullanım izni sağlamayı amaçlıyor. Hazine Bakanı Scott Bessent, bu modelin ABD'nin yapay zeka alanında diğer ülkeler üzerindeki öncülüğünü korumaya yardımcı olacağını söyledi.
Bir test sırasında, Mythos, dört farklı açığı birleştirerek bir tarayıcı saldırısı kodu yazdı — bu tür işlemler insan hackerlar için kendiliğinden oldukça zorlu bir görevdir. Siber güvenlik raporları, bu tür "zafiyet zincirlerinin" Stuxnet'in İran nükleer tesislerindeki centrifüj makinalarına saldırdığı şekilde, genellikle yüksek güvenlikli sistem sınırlarını aşabileceğini belirtmektedir.
Ayrıca, Anthropic'e göre, açıkça yönlendirildiğinde Mythos, tüm ana akım tarayıcılardaki "sıfır gün açıklarını" tanımlayabilir ve kullanabilir.
Anthropic, Mythos'u Linux kodunda güvenlik açıkları keşfetmek için kullandı. Jim Zemlin, Linux'un Android akıllı telefonlarından, internet yönlendiricilerine kadar NASA'nın süper bilgisayarlarına kadar günümüzün çoğu hesaplama sisteminin temelini oluşturduğunu belirtti. Mythos, açık kaynak kodlarda birden fazla hata otomatik olarak keşfedebiliyor ve bu açıklar kötüye kullanılırsa, saldırganlar tamamen bir makineyi ele geçirebilir.
Şu anda, Linux Vakfı'nın onlarca üyesi Mythos'u test etmeye başladı. Zemlin'e göre, temel bir soru şudur: Anthropic'in modeli, geliştiricilerin kaynakta daha güvenli yazılımlar yazmasına yardımcı olacak kadar değerli bir içgörü sunabiliyor mu, böylece açıkların oluşumu azalabilir mi?
“Hataları bulmada çok iyiyiz,” dedi, “ama onları düzeltmekte ise kötüydük.”