Kaynak: The Wall Street Journal
Bir ABD şirketi, koruma sağlayan bir Çin yapay zeka aracısı tarafından AI saldırısına uğradı.
AI araç platformu Hugging Face geçen hafta OpenAI modeli tarafından saldırıya uğradı. ABD şirketlerinin Çinli AI ürünlerini kullanma riskiyle ilgili sürekli uyarılar göz önünde bulundurulduğunda, bu olayın açıklanması şaşırtıcı bir sonuca yol açabilir.
Hugging Face, saldırganın OpenAI modeli olduğunu bilmeden geçen hafta bu saldırıyı açıkladı. Salı günü OpenAI, saldırının kendi modelinden kaynaklandığını kabul etti.
OpenAI, ağ erişimini kısıtlayan bir dahili değerlendirme sırasında modelin, OpenAI araştırma ortamı ile Hugging Face üretim altyapısındaki açıkları keşfettiğini belirtti. Model, bu açıkları kullanarak internete bağlandı ve test cevaplarını elde etti; yani değerlendirme sırasında hile yaptı.
OpenAI, açıklamasında şunları söyledi: “Sandbox test ortamında çalıştırıldığında, modellerimiz değerlendirme sorununu çözmek için açık internet erişimi elde etme yolları aramak amacıyla büyük miktarda çıkarım gücü tüketti. Bu erişimi elde etmek için modeller, bir sıfır gün açığı buldu ve bunu kullandı (bu açığı şu anda tedarikçiye sorumlu bir şekilde bildirdik). Bu erişim sayesinde, modeller araştırma test ortamında bir dizi yetki yükseltme ve yatay hareket işlemi gerçekleştirdi ve internet erişimi olan bir düğüme ulaştı.”
Bu model, gizli bilgilere erişmek ve bu bilgileri değerlendirme sırasında kullanmak için bir yöntem aradı ve başarıyla buldu. Vakaların birinde, model, çalınan kimlik bilgilerini ve sıfır gün açıklarını birleştiren birden fazla saldırı vektörünü zincirledi ve Hugging Face sunucularında uzaktan kod yürütme yolu buldu.
Ancak Hugging Face, GLM 5.2 adlı Çinli AI modeline başvurdu, bu model 智谱 (Z.AI) tarafından geliştirildi.
Hugging Face, "Log analizini başlatırken ilk olarak ticari API'nin arkasındaki öncü modelleri kullandık. Ancak bu işe yaramadı: Analiz, gerçek saldırı komutları, zafiyet kullanımları ve C2 izleri göndermek gerektiriyordu; ancak bu istekler, sağlayıcının güvenlik korumaları tarafından engellendi, çünkü bu korumalar olay yanıtlama personeli ile saldırganları ayırt edemiyordu. Bu nedenle, kendi altyapımızda GLM 5.2 açık ağırlık modelini kullanarak dijital forensik analiz gerçekleştirdik. Bu, başka bir avantaj da getirdi: Hiçbir saldırı verisi veya onların referans verdiği kimlik bilgileri ortamımızdan dışarı çıkmadı."
Amerikan medyası, bu saldırıların politika ve piyasa üzerindeki etkisinin henüz belirsiz olduğunu belirtti. Trump yönetimi yakın zamanda Çin modellerinin yasaklanmasına dair olası adımları tartışsa da, Hazine Bakanı Bessent, ABD şirketlerinin bu modelleri kullanmasını çalıntı eşya kullanmakla karşılaştırsa da, şu anda kullanıcıların ihtiyaç duyduğu düzeyde serbest erişim izni sunan tek modeller Çin modelleridir.
Hugging Face ortak kurucusu Thomas Wolf, X platformunda şunu yazdı: “Ön uç bir model sizin üzerine saldırdığında ve altyapınız içinde yatay olarak hareket ettiğinde, savunma ekipleri, kapalı ve onaylanmaya tabi bir model erişim talep sürecine yönlendirilmek yerine, ön uç araçlara geniş erişim hakkını saatler hatta dakikalar içinde elde etmelidir.”
Twitter：https://twitter.com/BitpushNewsCN
BitPush TG iletişim grubu: https://t.me/BitPushCommunity
BitPush TG aboneliği: https://t.me/bitpush