Yıllarca, saldırganlar siber güvenlik alanında üstünlük kazanmıştı. Yapay zeka bu durumu değiştirmek üzere.
Blog yazısı Salı günü, Firefox tarayıcısının geliştiricisi Mozilla, Anthropic şirketinin Claude Mythos yapay zeka modelinin erken sürümünün, iç testlerde tarayıcıdaki 271 hata tespit ettiğini duyurdu. Bu hatalar bu hafta düzeltildi.
Araştırma sonuçları, gelişmiş yapay zeka sistemlerinin büyük kod kütüphanelerini analiz ederek, önce insan网络安全 araştırmacılarının yoğun el ile incelemesi gerektiren zayıflıkları nasıl keşfedebileceğini vurgulamaktadır.
“Bu özellikler daha fazla savunucu tarafından keşfedildikçe, birçok diğer ekip şimdi bizim bu açıkları keşfettiğimizde yaşadığımız kadar şokta,” diye yazdı Mozilla. “2025 yılında yalnızca bir tane bile bu tür bir açığın ortaya çıkması, iyi korunan bir hedef için yeterince alarm verici olmalı; ancak şu anda aynı anda bu kadar çok açığın ortaya çıkması, bunlara hâlâ yanıt verebiliyor muyuz diye sormamıza neden oluyor.”
Mozilla, daha önceki Firefox sürümlerinde 22 adet güvenlik hassasiyetli açığı tespit eden başka bir Anthropic modelini test etmişti. Bu başarılara rağmen, Mozilla, siber güvenlik endüstrisinin uzun süredir yazılım açıklarını tamamen ortadan kaldırmayı "gerçekçi olmayan bir hedef" olarak gördüğünü kabul etti.
Şirket, “Şu ana kadar endüstride güvenlik konusunda temel olarak bir duraklama vardı. Firefox gibi kritik internet uygulamaları sağlayan tedarikçiler, güvenlik konusunda son derece özen gösterir ve kullanıcıların güvenliğini sağlamak için her sabah özel ekipleriyle çalışırlar.”
Mozilla, yeni AI sisteminin kaynak kodu analiz edebildiğini ve açıkları tanımlayabildiğini belirtti; daha önce bu iş, nadir insan uzmanlığına dayanıyordu. Ancak Mozilla, sistemin hiçbir “en iyi insan araştırmacısı” tarafından bulunamayan açıkları tespit etmediğini de ifade etti.
Şu ifadeyi verdiler: “Bazı yorumcular, geleceğin yapay zeka modellerinin şu anda anlayamadığımız tamamen yeni açıklıkları ortaya çıkaracağını tahmin ediyor, ancak biz öyle düşünmüyoruz. Firefox gibi yazılımlar, insanların doğruluğunu değerlendirebilmesi için modüler bir tasarıma sahiptir. Karmaşık, ancak gereksiz şekilde karmaşık değil.”
Ancak araştırmalar, yapay zeka araçlarının, saldırganların açıkları kullanmadan önce büyük miktarda açığı keşfetmesine izin verdiğini gösteriyor—ancak aksine, bu araçlar kötü niyetli kişilerin eline geçerse yazılım şirketleri ve kullanıcılar için büyük sorunlara yol açabilir.
Mythos, Mart'ta tanıtıldı ve Anthropic'ın en ileri modelidir; mantık yürütme, kodlama ve siber güvenlik görevleri için uygundur. Şirket içi belgeler, sistemi şirketin önceki Opus serisini aşan yeni bir model katmanı olarak tanımlar.
Modelin yayınlanmadan önce yapılan testler, ana işletim sistemlerinde ve ağ tarayıcılarda binlerce önce bilinmeyen açığı tanımlayabileceğini göstermiştir.
Anthropic, "Sınırlı Program" adlı bir program aracılığıyla bu sisteme sınırlı erişime sahiptir. Cam Kanat Programı, Amazon, Apple ve Microsoft dahil bazı teknoloji şirketlerinin bu modeli yazılım açıklarını taramak için kullanmasını sağlar. Bu, saldırganların bunları kullanmasını önlemek için yapay zeka sistemlerini kullanarak açıkları tanımlama ve düzeltme konusunda siber güvenlik endüstrisindeki artan odaklanmayı yansıtır.
Ancak aynı teknoloji, yeni türdeki ağ saldırılarını da ortaya çıkarabilir. Güvenlik araştırmacıları, kodları büyük ölçekli olarak analiz edebilen yapay zeka sistemlerinin, yaygın olarak kullanılan yazılımlarda bulunan istismar edilebilir açıkları otomatik olarak keşfedebileceğini belirtiyor.
Mythos'un yayınlanması sonrasında, İngiliz Yapay Zeka Güvenliği Enstitüsü'nün testleri, bu yapay zekânın... karmaşık işlemleri kendi kendine gerçekleştirebileceğini gösterdi; bunlar arasında, insan yardımı olmadan çok aşamalı kurumsal ağ saldırı simülasyonlarını tamamlamak da yer alıyor. Bu yetenekler, çeşitli hükümetler ve istihbarat kurumlarının dikkatini çekti.
Amerika Ulusal Güvenlik Ajansı, savaş ve gözetim konularında Antrope şirketinin teknolojisinin kullanılmasıyla ilgili tartışmalar nedeniyle durdu dedi. açıkladı Bilgili kaynaklara göre, Claude Mythos Preview gizli ağda çalışacak. Mythos'un kullanımı, ABD güvenlik kurumlarının bu modelin kritik yazılım açıklarını tanıma yeteneğine artan ilgi gösterdiğini vurguluyor.
Bu modelin performansı, mevcut yapay zeka değerlendirme sistemlerinin sınırlılıklarını da ortaya koydu. Bu ayın başlarında Anthropic mevcut bazı siber güvenlik benchmark'larının en yeni modellerinin performansını ölçmek için yeterli olmadığını doğruladı.
Mozilla, sonuçların ağ güvenliği alanında bir dönüşüm olduğunu ve savunucuların uzun süredir saldırganların elinde olan avantajı kısalmaya başlayabileceğini gösterdiğini ifade etti.
“Bu zorluğun karşısında ekibimizin gösterdiği performansla son derece gurur duyuyoruz ve diğerlerinin de böyle olduğunu düşünüyoruz,” diye yazdı Mozilla. “Çalışmalarımız tamamlanmamış olsa da, durumu tersine çevirdik ve sadece geride kalmaktan çok daha iyi bir gelecek gördük. Savunmacılar nihayet kararlı bir zafer kazanma şansına sahip oldular.”
Mozilla henüz yorum isteği için yanıt vermedi. Deşifre edin.