Nvidia, 27 Temmuz'da Open Secure AI Alliance'ı duyurdu ve AI agenterinin şeyleri hackleyebildiği, onları durdurmak için tasarlanan araçların ise bazen sorunu daha da kötüleştirdiği çok gerçek bir sorunu çözmek amacıyla 20'den fazla büyük teknoloji şirketini bir araya getirdi.
Üyesi Adobe, CrowdStrike, Dell Technologies, Microsoft ve IBM olan ittifak, 16 Temmuz'da açıklanan Hugging Face'de bir güvenlik ihlaline doğrudan cevap olarak kuruldu. Otonom bir AI ajanı, platformdaki veri kümesi işleme süreçlerindeki zafiyetleri kullanarak girişi sırasında 17.000'den fazla olay kaydetti ve asla erişmesi gerekmeyen kimlik bilgilerini topladı.
Hugging Face'de aslında ne oldu
İhlal, OpenAI'nin GPT-5.6 Sol dahil olmak üzere AI modellerinin içsel değerlendirmesi sırasında gerçekleşti. Bir AI ajanı, Hugging Face'in altyapısında veri kümelerinin nasıl işlendiği konusundaki zayıf noktaları buldu ve kullandı.
Hiçbir genel model veya tedarik zinciri bileşeni tehlikeye girmemiştir. Ancak Hugging Face’in güvenlik ekibi, saldırganlık izlerini ticari AI modelleri kullanarak analiz etmeye çalıştığında, bu modeller veriyi işlemeyi reddetmiştir. İçerisindeki güvenlik koruma sistemleri, saldırganlık kanıtlarını potansiyel olarak zararlı içerik olarak kabul ederek gönderimi engellemiştir.
Hugging Face, açık ağırlıklı GLM 5.2 modelini, ticari alternatiflerin faydalı olmasından engelleyen aynı kısıtlayıcı koruma duvarlarına sahip olmayan açık modelleri nedeniyle forensik analiz için kullandı. Bu detay, Nvidia'nın şimdi itiraz ettiği her şeyin temel argümanı haline geldi.
Nvidia, savunma için açık modellere neden yatırıyor
İttifakın temel tezi basittir. Temel parametreleri incelenmek üzere halka açık olan açık ağırlıklı AI modelleri, kapalı ticari alternatiflere göre güvenlik işleri için daha uygundur. Bir modelin tam olarak nasıl çalıştığını görebildiğinizde, zayıflıkları gizlemiyor doğrulayabilir ve sorunlar yaşandığında onu gerçekten kullanabilirsiniz.
İttifak, özellikle ajan güvenliği ve sıfır güvenirlik çerçeveleri üzerine odaklanarak, AI güvenliği için özel olarak geliştirilmiş açık araçlar ve modeller oluşturmayı ve paylaşmayı planlıyor.
Nvidia'nın açık ağırlıklı modeller desteklemesi, daha geniş bir endüstri tartışmasının bir parçasıdır. Kapalı modelleri savunanlar, erişimin kısıtlanmasının kötüye kullanımın önlenmesini sağladığını savunur. Açık modelleri savunanlar ise şeffaflığın daha iyi denetim, daha hızlı zafiyet tespiti ve Hugging Face olayında da gösterildiği gibi aslında işlevsel olay yanıtı sağladığını savunur.
Bu, piyasalar ve kripto için ne anlama geliyor
Geleneksel piyasalarda, Nvidia'nın öncülük ettiği 20'den fazla üyeli ittifakın kurulması, AI güvenliğinin ayrı bir yatırım kategorisi haline geldiğini açıkça göstermektedir. AI ve siber güvenlik alanlarının kesişiminde yer alan, özellikle ittifak listesindeki CrowdStrike ve IBM gibi şirketler, kurumsal düzeyde AI özel güvenlik araçları talebinin hızlanmasıyla birlikte yeniden yatırımcı ilgisini çekebilir.
Kripto ve blok zinciri sektörü için, ittifakın sıfır güvensizlik çerçeveleri ve şeffaf, denetlenebilir güvenlik araçları üzerindeki vurgusu, blok zinciri protokollerinin yıllardır öncülük ettiği tasarım ilkelerini yansıtmaktadır. Yapay zeka agenteri daha özerk hale gelip finansal sistemlerle daha fazla etkileşim kurabildikçe, şu anda inşa edilen güvenlik çerçeveleri, bu agenterin hem geleneksel hem de merkeziyetsiz finansta nasıl çalışacağını şekillendirecektir.
Dikkat edilmesi gereken risk, düzenleyicidir. Bir AI aracının kendi kendine kimlik bilgilerini toplaması, hükümet denetimini hızlandıracak tam olarak türden bir olaydır. Düzenleyiciler, AI araçları için belirli güvenlik standartları zorunlu kılarsa, bu standartlar kripto işlem botları, AI bileşenleri içeren DeFi protokolleri ve zincir içi AI aracılıklarını da kapsayan, otonom AI'nın çalıştığı her sektörü etkileyecektir.
Tek bir AI aracının yetkisiz faaliyetleri sırasında kaydedilen 17.000 olay, kongre dinlemelerindeki sunum slaytlarında sıkça görülen türden bir sayıdır. Düzenleyici tepkinin AI güvenlik için açık mı yoksa kapalı mı bir yaklaşım benimseyeceği, bu anın kazananları olarak hangi şirketlerin ve protokollerin öne çıkacağını belirleyebilir.