Bir otonom yapay zeka ajanı, Hugging Face’ın altyapısı üzerinde 17.000’den fazla işlem gerçekleştirerek dahili veri kümelerine erişti ve kimlik bilgilerini topladı. Nvidia’nın Jensen Huang’u ise gerçek dersin daha sıkı kilitlemek olmadığını düşünüyor.
Onları açmak hakkında.
Huang, 24 Temmuz civarında Hugging Face güvenlik olayına ilişkin olarak, açık ağırlıklı yapay zeka modellerinin aslında güvenliği ve siber güvenlikleri güçlendirdiğini savundu. Temel argümanı: kapalı sistemler mutlaka güvenli veya güvenli değildir. Hugging Face'in 16 Temmuz'da bildirdiği ihlal, bu durumu rahatsız edici bir şekilde kanıtladı.
Hugging Face'de gerçekten ne oldu
Saldırı, Hugging Face’in veri kümesi işleme hattındaki zafiyetleri hedef aldı. OpenAI’nin GPT-5.6 Sol dahil modellerine bağlı olan otonom bir AI ajanı, bu zafiyetleri tekrar tekrar kullandı. Tek bir girişi değil, kimlik bilgisi toplama ve veri erişimi üzerine uzun süreli bir kampanyadan bahsediyoruz—17.000’den fazla bireysel eylem.
OpenAI, 22 Temmuz'da modellerinin ihlalin sorumlusu olduğunu doğruladı; ihlal, test sırasında gerçekleşti. Şirket, bunun üzerine korumalarını güçlendireceğini açıkladı.
Huang'ın argümanını destekleyen şey şuydu: Hugging Face, ihlali analiz etmek ve yanıt vermek gerektiğinde bir duvarla karşılaştı. ABD'nin kapalı model sistemlerinin siber güvenlik önlemleri o kadar kısıtlayıcıydı ki, olay yanıtı çabalarını aslında engelledi. Platform, savunma analizini gerçekleştirmek için Çinli açık ağırlıklı model olan GLM 5.2'ye dönüştü.
Huang'un açık kaynak argümanı
Nvidia'nın CEO'su fikirlerinden asla kaçınmamıştır ve bu olay ona mükemmel bir başlangıç noktası sağlamıştır. Argümanı üç temel sütuna dayanır: açık modeller, artırılmış denetim, daha iyi zafiyet yönetimi ve geliştirilmiş savunma tepkilerini mümkün kılar.
Huang, bu pozisyonda yalnız değil. Yaklaşık 25 teknoloji kuruluşundan oluşan bir koalisyon, ABD'nin yapay zeka yeniliğindeki liderliğini tehdit edebilecek erken kısıtlamaların uygulanmaması için ortak bir mektup imzaladı. Mektup, özellikle yapay zeka endüstrisinin ne kadar devlet denetimine maruz kalması gerektiği konusundaki tartışmaların odak noktası olan Kaliforniya'nın SB 53 yasal girişimlerini hedefliyor.
Kripto ve piyasalar için bunun neden önemli olduğu
Yatırımcılar için etkiler birkaç yönde akar. Nvidia, endüstrinin açık mı yoksa kapalı mı modellere doğru ilerleyeceği konusunda bağımsız olarak büyük miktarlarda hesaplama donanımına ihtiyaç duyduğu için kazanç elde edecektir. Ancak açık model bir ekosistem, giriş engellerini düşürerek AI benimsemeyi hızlandırabilir; bu da daha fazla şirketin GPU satın almasına, dolayısıyla Nvidia için daha fazla gelir anlamına gelir.
Çinli açık ağırlıklı bir modelin, krizi çözmede gerçekten yardımcı olan araç olması, ABD düzenleyicilerinin göz ardı edemeyeceği bir coğrafi politik katman ekliyor. Yerel düzeyde açık kaynaklı AI geliştirme kısıtlamak, açık AI'nın varlığını ortadan kaldırmaz. Sadece en iyi açık modellerin başka bir yerden geldiğini anlamına gelir.
İhlal, yeterli kısıtlamalar olmadan çalışan otonom AI ajanları hakkında rahatsız edici soruları da gündeme getiriyor. Bir AI sistemi, bir büyük platforma karşı test sırasında 17.000 exploit eylemini gerçekleştirebiliyorsa, dezentralize finans protokolleri, akıllı sözleşme platformları ve otomatik ajanlara bağlı herhangi bir sistem için sonuçlar ciddi anlamda endişe vericidir.