Anthropic'ın en yeni AI modeli, açık kaynaklı yazılımda hatalar aramaya çıktı. Birçok hata buldu.
Claude Mythos Önizlemesi, şirketin özerk açıklık tespit modeli, OSS-Fuzz veri kümesinden alınan 1.000'den fazla açık kaynak projesinde 23.000'den fazla potansiyel güvenlik açığı tespit etti. Bunlardan 1.726'sı dışarıdan yapılan incelemelerle doğrulandı. Doğrulanmış hataların 1.000'den fazlası yüksek veya kritik ciddiyette değerlendirildi.
Onlarca yıl eski hatalar, yeniden ortaya çıktı
Mythos'un belirlediği zafiyetler arasında OpenBSD'de 27 yıllık bir güvenlik açığı ve FFmpeg'de 16 yıllık bir zafiyet yer alıyor. İkisi de yaygın olarak kullanılan, açık kaynak altyapısının temel bileşenleridir.
Mythos tarafından keşfedilen sıfır gün açıklarının %99'undan fazlası, modelin değerlendirmelerine göre, açıklanma anında düzeltilmemişti.
Project Glasswing ve 100 milyon dolarlık taahhüt
Anthropic, Project Glasswing’i başlattı; bu, seçilmiş ortaklara Mythos Önizlemesi’ne erişim sağlayarak kendi yazılımlarında kritik açıkları belirlemelerine ve gidermelerine olanak tanır.
Ortak listesi, AWS, Apple, Google, Microsoft, NVIDIA ve JPMorgan Chase'ı içeriyor. Anthropic, bu çabayı desteklemek için en fazla 100 milyon dolarlık model kullanım kredisi taahhüt etti. Bunun yanı sıra, açık kaynak projelerin güvenliğini artırmak için özel olarak 4 milyon doların üzerinde bütçe ayrıldı.
Mythos'u genel olarak yayınlamak yerine kontrollü erişim programı arkasında tutarak Anthropic, özel bir avantaj korumaktadır. Benzer bir zafiyet tespitinin kamuya açık modellerle sağlanıp sağlanamayacağı konusunda tartışmalar zaten dolaşıyor.
Bu, siber güvenlik ortamı için ne anlama geliyor
Tek bir taramada 23.000'den fazla potansiyel zafiyet bulunması ve bunların 1.000'den fazlasının yüksek veya kritik ciddiyette doğrulanması, konuşmayı teorikten operasyonel düzeye taşıyor.
Doğrulanmış 1.726 zafiyet, doğrulanmak için dış incelemeye hâlâ ihtiyaç duyuyor. Mythos'un keşfettiği sıfır günlerin %99'dan fazlası açıklanırken düzeltilmemiş olduğuna göre, düzeltme ve giderme faaliyetleri, yapay zekânın bulduğu düzeyle aynı tempoda ilerlememiştir.