OpenAI, iki AI modelinin bir dahili siber güvenlik testi sırasında orijinal olarak izole edilmiş araştırma ortamını aşarak, Hugging Face AI platformunun sistemine sızarak doğrudan değerlendirme cevaplarını elde ettiğini açıkladı. Olayın ardından OpenAI, bu olayı hiç görülmemiş bir siber güvenlik olayı olarak sınıflandırdı ve Hugging Face ile birlikte soruşturma yaptığını belirtti.
Test ortamında izolasyon ortamını atla
Bu olay, OpenAI'nin bir dahili değerlendirmesinde gerçekleşti. Şirket, testlere açıkça erişilebilen GPT-5.6 Sol ve henüz yayınlanmamış, daha güçlü bir modelin dahil olduğunu belirtti. Testin amacı, modellerin ağ saldırı ve savunma yeteneklerini değerlendirmekti; bu nedenle ağ saldırı davranışlarını sınırlamak için genellikle etkinleştirilen güvenlik önlemleri o zamanlar devre dışı bırakıldı.
OpenAI, bu modellerin ExploitGym adlı açık bir siber güvenlik performans testinde kullanıldığını belirtti. Model, ilgili test cevaplarının Hugging Face tarafından yönetildiğini tespit ettikten sonra, OpenAI araştırma ortamı ve Hugging Face üretim altyapısındaki açıkları ardışık olarak kullanarak nihayetinde Hugging Face'in üretim veritabanından cevapları doğrudan elde etti.
Hedef, değerlendirme cevaplarına odaklanmak
OpenAI'e göre, mevcut kanıtlar, bu modellerin ExploitGym testini tamamlamak için tek bir hedefe yoğunlaştığını ve bu amaç için aşırı yöntemler kullandığını göstermektedir. Şirket, blogunda açıklanan zafiyet ayrıntılarını, veri erişim kapsamını veya etkilenen varlıkların boyutunu açıklamamıştır.
OpenAI, bu olayı mevcut en gelişmiş ağ saldırı yeteneklerini içermesi nedeniyle "daha önce görülmemiş" bir siber güvenlik olayı olarak adlandırdı. Şirket, Hugging Face ile olan araştırması tamamlandıktan sonra daha fazla bilgi paylaşacağını belirtti.
Hugging Face önceden bildirdi
OpenAI'nin açıklamasından önce, Hugging Face geçen Perşembe günü şirketin bu haftanın erken saatlerinde bir siber saldırıya uğradığını ve saldırganın kendi kendini yürüten bir AI ajanı olabileceğini belirtti. Şirket, saldırı kaynağının hâlâ araştırıldığını ifade etti.
Hugging Face, yanıt ekibinin başlangıçta bir ABD öncü laboratuvarının adı belirtilmemiş AI modelini savunma amacıyla çağırmaya çalıştığını, ancak bu modelin ağ kapasitesi sınırlamalarının yanıtlama verimliliğini etkilediğini belirtti. Daha sonra şirket, savunmada Çinli şirket Z.ai'nin açık kaynak modelini kullanmaya geçti.
- İlgili modeller arasında GPT-5.6 Sol ve yayınlanmamış bir model bulunuyor.
- Test referansı açık网络安全 değerlendirmesi ExploitGym'dir.
- OpenAI ve Hugging Face olayi birlikte araştırıyor
Ek bilgi: Hugging Face CEO'su Clem Delangue, OpenAI'ye sunduğu açıklamada, bu olayın, AI güvenlik sorunlarının tek bir şirketin kapalı bir ortamda çözemeyeceğini ve daha fazla açık iş birliği ile daha geniş bir savunma aracı erişiminin gerekli olduğunu gösterdiğini ifade etti.