İşte bir siber güvenlik kabusundan doğrudan alınmış bir senaryo: Otonom bir AI aracısı üretim altyapınıza sızmış, tüm bir hafta sonu boyunca kontrolsüzce dolaşmış ve olay yanıt ekibiniz nihayetinde ne olduğunu anlamak için AI araçlarını kullanmaya çalıştığında, bu araçlar işbirliği yapmamıştır. Tam olarak bu, Hugging Face’te gerçekleşti.
AI model hub, 16 Temmuz'da, şirketin veri işleme hattındaki iki kod yürütme zafiyetini kullanan, baştan sona özerk çalışan bir agens saldırgan tarafından sophistication bir sızıntı yaşadığını açıkladı. Saldırgan, kimlik bilgilerini topladı, üretim sistemleri arasında yatay hareket etti ve kimse fark etmeden 17.000'den fazla işlem gerçekleştirdi.
Savunmanız savunmayı reddedince
Hugging Face’in olay yanıt ekibi, GPT ve Claude dahil olmak üzere öncü AI modellerine, istilaya ait verileri analiz etmek için başvurdu. İkisi de reddetti. Ticari güvenlik koruma duvarları, IR ekibinin legítim forensik sorgularını saldırı talimatları gibi değerlendirdi ve her isteği engelledi.
Hugging Face, nihayet kök zafiyetleri düzeltti ve ihlali kontrol altına aldı, ancak olay, büyük üretim altyapısına yönelik ilk kamuoyuna açıkça belgelenmiş, uçtan uca otomatikleştirilmiş AI tabanlı bir saldırı olarak kalır.
Neden kripto dikkat etmeli
Hugging Face, dünyadaki en büyük açık kaynak yapay zeka modeli pazarıdır. Merkezde, dağıtılmış yapay zeka hesaplama ağlarından zincir içi çıkarım protokollerine kadar artan sayıdaki kripto-ilişkili projeleri güçlendiren modeller, veri kümeleri ve araçlar yer alır. Eğer otonom bir ajan, zararlı veri kümeleri aracılığıyla Hugging Face’in işlem hattını ele geçirebilirse, bu ekosistemden veri çeken her alt proje bu riski miras alır.
Bittensor ve Fetch.ai gibi açık model deposuna dayalı merkeziyetsiz AI platformları, burada gösterildiği gibi, işleme zafiyetlerinden yararlanan zehirli veri kümeleri nedeniyle tam olarak tedarik zinciri riskiyle karşı karşıyadır.
Güvenlik koruyucu sorunu herkesin sorunudur
OpenAI’nin GPT’si ve Anthropic’ın Claude’si, kurumsal ortamlarda en çok kullanılan iki öncü modeldir. Eğer ikisi de güvenlik filtreleri bir saldırganın bir zafiyet üretmesi ile bir savunmacının bir zafiyet analiz etmesi arasındaki farkı ayırt edemediği için legítim forensik verileri işlemeyi reddederse, bu modern AI destekli güvenlik altyapısının temelinde yer alan sistemik bir zafiyettir.
Chainalysis, Elliptic ve çeşitli zincir içi forensik şirketleri, analiz iş akışlarına giderek daha fazla LLM entegre ediyor. Eğer bu modeller, bilinen saldırılar veya hile adresleriyle ilişkili işlem verilerini işlemeyi reddederse ve sorgular para aklama talimatı gibi görünürse, tüm forensik analiz zinciri bozulur.
Geçici kum kovalarında yürütülen 17.000’den fazla eylem, önemli bir gelişmişlik boşluğunu ortaya koyuyor. Geleneksel güvenlik izleme, kalıcı bir işareti olan zararlı faaliyetler arar: değiştirilmiş dosyalar, sıra dışı ağ bağlantıları veya şüpheli oturum açma desenleri. Geçici ortamlarda çalışan bir ajan, neredeyse hiçbir geleneksel iz bırakmaz.