Anthropic, Siberiyasal Riskler Üzerine Mythos AI Modelini Engelleyiyor

ME Haberleri'ne göre, 16 Nisan (UTC+8) tarihinde, kırmızı takım araştırmacıları, üst düzey yöneticiler ve ABD hükümeti yetkilileriyle yapılan açıkça adlandırılmış röportajlarla, keşiften kapatma sürecine kadar olan tam karar alma süreci ortaya çıkarıldı. AI güvenlik araştırmacısı Nicholas Carlini, Şubat ayında Bali'de bir düğüne katılırken, yeni iç inceleme için açılan Mythos modelini dizüstü bilgisayarında test etti ve birkaç saat içinde küresel olarak yaygın olarak kullanılan altyapılara yönelik çok sayıda saldırı yolu keşfetti. San Francisco'ya döndükten sonra, Mythos'un Linux için bağımsız olarak saldırı araçları oluşturabildiğini fark etti. Öncü kırmızı takım lideri Logan Graham şöyle dedi: "Modeli aldığımız birkaç saat içinde, bunun farklı bir şey olduğunu anladık." Temel fark, önceki nesil lider model olan Opus 4.6'nın insanları açıklık bulma sürecinde destekleyebilmesiydi; Mythos ise tüm saldırı sürecini bağımsız olarak tamamlayabiliyordu. Graham, yönetimine bir uyarı gönderdi: Bu bir ulusal güvenlik riskidir. Kurucu ortak ve baş bilim insanı Jared Kaplan, Mythos'u eğitme aşamasından itibaren "çok dikkatli" bir şekilde izlediğini söyledi; Ocak ayından itibaren bu modelin açıklık bulma yeteneğinin ne kadar güçlü olduğunu fark etti ve bu yeteneklerin sadece teknik bir yenilik mi yoksa "internet altyapısıyla yüksek oranda ilişkili bir şey" mi olduğuna karar vermek zorunda kaldı. Sonuç olarak ikincisi olduğu sonucuna vardı. Şubat sonu ile mart başı arasında, Kaplan ve ortak kurucu Sam McCandlish, CEO Dario Amodei ve president Daniela Amodei dahil olmak üzere yönetimi bilgilendirdi ve modelin kamuoyuna açıkça yayınlanmamasını ancak dış şirketlere hatta rakiplere deneme imkanı verilmesini önerdi. Mart'ın ilk haftasında şirket, Mythos'u bir ağ savunma aracı olarak resmen tanımlamayı onayladı. Rapor ayrıca yeni test detaylarını da ortaya koydu. Erken bir versiyon testinde, model kendi kendine çok aşamalı bir saldırı planı tasarladı, çalışma ortamı sınırlarını aştı ve internete erişim sağladı, ardından internet üzerinde içerik yayınlamaya başladı. Talimatlı testlerde, Mythos dört açıklığı birleştiren bir tarayıcı saldırı zinciri yazdı; bu, insan hackerlar için bile çok zor bir operasyondur. Morgan Stanley, Mythos'un kamuoyuna açıklanmasından önce zaten büyük modelleriyle kendi yazılım açıklarını bulmak için yardımcı oldu; özellikle tedarik zinciri ve açık kaynak bileşenlerini taradı. Bilgi sahibi kaynaklara göre, önce birkaç gün ila birkaç hafta süren sıfır gün açıkları keşfi ve saldırı kodu yazımı artık en kısa sürede sadece birkaç dakika sürüyor. CEO Jamie Dimon, kar marjı telefon görüşmesinde Mythos'un "daha fazla düzeltilecek açıklanın olduğunu gösterdiğini" söyledi. Cisco'nun baş güvenlik ve güvenlik görevlisi Anthony Grieco ise, güvenlik güncellemeleri artık sağlanmayan sonlandırılmış ağ cihazlarına AI kullanılarak saldırı yapılmasını endişeyle izliyor. ABD savunma değerlendirmesini bilen bir kaynak, tek bir hackerın Mythos veya benzer bir aracın kullanımını, sıradan bir askeri özel kuvvetlere yükseltmeye eşdeğer olduğunu söyledi; suçlu hacker grupları bu sayede küçük devlet istihbarat kurumlarının seviyesine ulaşabilir; küçük ülkeler ise büyük ülkelerin düzeyindeki ağ saldırı yeteneklerine sahip olabilir. Önceki NSA ağ güvenliği müdürü Rob Joyce şöyle dedi: "AI'nın sonunda bizi daha güvenli hale getireceğine inanıyorum; ancak şu anda o güne kadar karanlık bir dönem var ve saldırı tarafları kesin üstünlüğe sahip olacak; temelleri iyi atılmamış organizasyonlar çöküşe uğrayacak." (Kaynak: BlockBeats)