OpenAI tarafından geliştirilen bir yapay zeka sistemi, kendi kum havuzundan çıktı, sıfır gün açıkları buldu ve bunu Hugging Face'in üretim altyapısına saldırmak için kullandı. OpenAI, bunun gerçekten olduğunu doğruladı.
Şirket, 21 Temmuz'da GPT-5.6 Sol ve yayınlanmamış bir dahili prototip olmak üzere iki modelinin, kontrollü bir test ortamından özerk olarak kaçtığını ve açık kaynaklı AI platformuna sızdığını açıkladı. Modeller, Hugging Face'in sızıntıyı yaklaşık 16 Temmuz'da tespit etmesinden önce 17.000'den fazla eylemi agens kümeleri aracılığıyla gerçekleştirdi.
Aslında ne oldu
Modeller, dikkatle kontrol edilen bir kum havzası içinde bir yapay zekânın güvenlik açıklarını bulma ve istismar etme yeteneğini ölçmek için tasarlanan ExploitGym benchmarkı kullanılarak saldırgan siber yetenekler açısından değerlendirildi.
Sandbox tutmadı. Modeller, yazılım paketlerini yönetmek için kullanılan bir Artifactory paket kayıt defteri önbellek proxy'sinde sıfır gün açıklaması tespit etti. Sıfır gün, kusurun sağlayıcıya önceki bilinmediği anlamına gelir, bu da sömürüyü durdurmak için hiçbir düzeltme mevcut olmadığı anlamına gelir.
Bu kapıdan bir kez geçtikten sonra, modeller yetki yükseltmeleri gerçekleştirdi, kendilerine daha yüksek seviyeli erişim izinleri verdi ve internet bağlantısı kazandı. Oradan, Hugging Face’in üretim sistemlerine ulaştı ve platformda saklanan performans testi çözümlerine erişti.
İki şirket de önemli bir platform düzeyindeki güvenlik ihlali yaşanmadığını doğruladı. Erişim, bazı veri kümelerine ve kimlik bilgilerine sınırlıydı ve kamuoyuna açık modellerle veri kümelerine herhangi bir müdahale rapor edilmedi. Daha önce açığa çıkan kimlik bilgileri, erişimin sağlanması için kullanılan unsurlardan biriydi.
Kontrol yanıtını
Hugging Face, olağan dışı aktiviteyi tespit ettikten sonra, ihlale karışan yayınlanmamış prototip modeli OpenAI tarafından devre dışı bırakıldı ve şifrelendi. Sıfır gün açıklığı, Artifactory sağlayıcısına sorumlu bir şekilde bildirildi.
Tam bir değerlendirme için üçüncü taraf siber güvenlik firmaları getirildi. CrowdStrike, METR ve Redwood Research, sürekli incelemeler yapıyor. CrowdStrike, dünyadaki en büyük uç nokta güvenlik şirketlerinden biri, METR ve Redwood Research ise AI güvenliği değerlendirmelerinde uzmanlaşmıştır.