TechCrunch, üretken AI'nın şirket güvenliği sorunlarını daha öne taşıdığını bildirdi. Google Cloud Chief Operating Officer Francis de Souza, bir etkinlikte, şirketlerin AI'yı ilerletirken güvenliği sonradan eklemeyi veya çalışanlara bırakmayı mümkün olmadığını söyledi. Ona göre, AI stratejisi, veri stratejisi ve güvenlik stratejisiyle aynı anda ilerlemelidir.
Makale, bu değerlendirme kendi başına yeni olmadığını, ancak AI araçlarının hızlı bir şekilde şirket süreçlerine girmesiyle risklerin daha hızlı ortaya çıktığını belirtiyor. de Souza, özellikle çalışanların şirket yönetimi dışında doğrudan bireysel AI araçlarını kullanmasıyla ortaya çıkan “gölge AI” sorununa dikkat çekiyor. Bu durum, şirketlerin denetim, erişim kontrolü ve veri yönetimi konularında birlikte hareket etmesini zorlaştırıyor.
Saldırı yüzeyi artık geleneksel ağlarda değil
de Souza, eski savunma modellerinin şu anki tempoyla uyum sağlayamadığını düşünüyor. Makale, sistemin ilk saldırıya uğramasından bir sonraki aşamaya geçişe kadar geçen ortalama sürenin 8 saatten 22 saniyeye düştüğünü aktarıyor. Aynı zamanda, şirketlerin korumak zorunda kaldığı nesneler artık sadece ağlar ve uç noktalar değil.
Şu anki risk noktaları arasında model, eğitim veri boru hattı, ajanlar ve ipuçları gibi yeni unsurlar da yer alıyor. Özellikle şirket içi çalışan AI ajansları, yıllardır dikkat edilmeyen veri depolarını otomatik olarak keşfedebilir ve önceden gizlenmiş hassas bilgileri yeniden ortaya çıkarabilir.
Google, platform tabanlı koruma savunuyor.
de Souza, savunmanın da "makine ile makine" yönüne dönmesini öneriyor. Şirketlerin, işleri hayata geçirdikten sonra tek tek açıkları kapatmak yerine, farklı bulut ortamları ve farklı modeller arasında tutarlı bir güvenlik stratejisi uygulamak için platform tabanlı bir yaklaşım benimsemesi gerekiyor.
Ayrıca, bunun artık güvenlik ekibinin işi olmadığını, yönetim kurulu ve yönetimin doğrudan katılması gereken bir konu olduğunu belirtti. Nedeni, AI'nın şirket içi sistemlere erişim yöntemlerini değiştiriyor olması ve geleneksel, insan müdahalesine dayalı güvenlik süreçlerinin artık zamanında yanıt vermesi giderek daha zor hale gelmesidir.
Ancak makale, sektörün bu tür sistemleri denetlemek için yeterli sayıda uzmana hâlâ ihtiyaç duyduğunu da belirtiyor. LinkedIn baş bilgi güvenliği görevlisi Lea Kissner, bu hafta The New York Times'a, yapay zekânın yarattığı açıkların, güvenlik ekiplerinin ele alma kapasitesinden daha hızlı arttığını ve sektörün daha istikrarlı bir yapay zeka güvenliği anlayışına ulaşması için henüz birkaç yıl daha sürebileceğini söyledi.
Gemini olayı, platformun uygulama farkını ortaya çıkardı
Makale, Google Cloud'un dışa sunmuş olduğu güvenlik önerilerinin mantıklı olduğunu, ancak platformun kendi uygulama düzeyinde açıkça eksiklikler bulunduğunu belirtiyor. The Register, yakın zamanda sürekli olarak, Google Cloud geliştiricilerinin yetkisiz Gemini API çağrıları nedeniyle on binlerce dolarlık faturalar aldığını ve bunların bazılarının ilgili hizmetleri önceden etkinleştirmemiş olduğunu rapor etti.
Haberde, bu olayların çoğu açıkça maruz bırakılmış API anahtarlarıyla ilgili olarak belirtilmiştir. İlgili anahtarlar, Google Maps için kullanılmak üzere Google'ın önceki yönergelerine göre açık bir konuma yerleştirilmişti. Daha sonra Google, bu anahtarların erişilebilirliğini genişletti, ancak geliştiriciler bu değişiklikten haberdar edilmedi ve saldırganlar, bu yolla Gemini hizmetlerine erişerek yüksek maliyetler oluşturabildi.
- Prentus, 30 dakika içinde 10.138 dolarlık işlem yapıldığını açıkladı.
- Başka bir geliştirici yaklaşık 17.000 avustralya doları tutarında fatura aldı.
- Otomatik yükseltme sonrası gerçek limit en fazla 100.000 ABD doları olabilir.
Medya haberlerinin ardından Google, ilgili geliştiricilere para iadesi yaptı, ancak otomatik yükseltme ücretlendirme seviyesi politikasını değiştirmeyi planlamıyor. Şirket, kullanıcıların belirlediği bütçe üst sınırına katı şekilde uymaktan ziyade hizmet kesintilerini önlemeye daha fazla önem verdiğini açıkladı.
Anahtar silindikten sonra hâlâ kullanılabilir bir pencere vardır.
Makale, aynı zamanda güvenlik şirketi Aikido'nun bir araştırmasına da değiniyor. Araştırmaya göre, geliştiriciler anahtarın sızdığına dair fark ettikten hemen sonra anahtarı silse bile, saldırganlar Google'ın iptal işlemlerinin altyapıda yavaş yavaş yayılması nedeniyle en fazla 23 dakika boyunca bu anahtarı kullanmaya devam edebiliyor.
Aikido araştırmacısı Joseph Leon, bu süre içinde isteklerin doğrulanıp doğrulanmadığının kararsız olduğunu, ancak bazı saatlerde başarı oranının %90'ın üzerinde olabileceğini belirtti. Saldırganlar, bu pencereyi kullanarak dosyaları dışa aktarabilir veya Gemini'nin önbellek sohbet verilerini okuyabilir.
Leon, Google'nin bazı yeni kimlik doğrulama biçimlerinin aynı soruna sahip olmadığını da belirtti. Örneğin, hizmet hesabı API kimlik bilgileri yaklaşık 5 saniye içinde iptal edilebiliyor, Gemini'nin daha yeni AQ önekli anahtarları ise yaklaşık 1 dakika içinde geçersiz hale geliyor. Bu, eski anahtarların 23 dakikalık penceresinin teknik olarak çözülemez değil, daha çok platformun öncelik seçimi sonucu olduğunu gösteriyor.
Ek Bilgi: Bu makale, bir yabancı medya yorumudur ve temel amacı Google'ın güvenlik önerilerini reddetmek değil, platformun kurumsal önleyici önlemleri teşvik ederken kendi ürün, faturalandırma ve anahtar yönetimi süreçlerindeki tepki hızında hala bir fark olduğunu vurgulamaktır.