Hugging Face'in Baş Politika Görevlisi ve Stratejik Başkan Yardımcısı Irene Solaiman, yakın bir《Equity》podcast bölümünde, açık AI platformlarına değer katan özelliklerin—örneğin açık erişim ve zengin veri—aynı zamanda bu platformları daha çok hacker saldırılarına karşı savunmasız hale getirebileceğini ifade etti.
O, Ocak'ta OpenCode'a yönelik saldırıların en son örneği olduğunu belirtti. Bu saldırı, kullanıcıların üçüncü taraf API anahtarlarını hedef aldı ve mali kayıplara neden oldu. Daha önce bu yıl yaz aylarında, OpenAI birliklerinin Hugging Face'e sızdığı ve güvenlik değerlendirmesi cevaplarını elde ettikten sonra izlerini silmeye çalıştıkları bir olay yaşanmıştı.
Riskler, sadece açık topluluk katkılarını kabul eden platformlara sınırlı değildir. Pazartesi, geliştiricilerin açık AI modellerini çalıştırmak ve eğitmek için kullandığı AI altyapısı startup'ı Fireworks, saldırganların bazı müşterilerin model ağırlıklarına, veri kümelerine ve fatura bilgilerine eriştiğini açıkladı. Şirket, soruşturma süresince bazı kendi kendine veri fonksiyonlarını geçici olarak kapattı. Solaiman, bu saldırıya Fireworks'in açıklığı neden olmamış olsa da, AI altyapısı sağlayıcılarının içinde ne kadar değerli bilginin merkezi olarak depolandığını vurguladı.
Solaiman, "Equity" programında şunu söylüyor: "Açık topluluğun hedef alınmasını endişe veren faktörler, tam da onun özel olmasını sağlayan unsurlar. Biz zaten gevşek kalmayı amaçlıyorduk. Kurumsal arka plana sahip olmasalar bile, katkılarda bulunabilmek için çatı altındaki sıradan hayranların yerini almak istiyoruz."
Diğer bir diyalogda şöyle ekledi: "İnsanların doğrudan pull request göndermesini ve geçerli bir kurumsal arka plana sahip olmayan herkesin katılımını istiyorsunuz... ancak ardından bazı kişiler işleri bozup diğerlerini de etkileyecektir."
Bu gevşek mekanizma değil, açık kaynak platformlarda barındırılan büyük miktardaki bilgi kendisi de hedefler haline gelmektedir. Solaiman, OpenAI'nin Hugging Face'i hedef almasının nedeninin değerlendirme veri kümelerini saklaması olduğunu; OpenCode'un ise bu olayda “çok karlı üçüncü taraf API anahtarları” hedef aldığını söylüyor.
Solaiman, TechCrunch'a "Bu ikisinin birleşimi bizi birinci hedef yaptı," dedi ve şu anda büyük kamu desteği kazanmış bir noktada açık kaynak kodun gerçekten daralma ihtimali olduğunu ekledi.
Son zamanlarda, sektörde birçok kişi, NVIDIA CEO'su Jensen Huang dahil olmak üzere açık kaynaklı AI modellerini destekledi. Artık daha fazla hükümet, şirket ve startup, geliştirme için açık kaynaklı modellere güveniyor.
Peki, söz konusu daralma nasıl bir görünüm alacak? Teorik olarak, bu, kimlerin model veya veri seti yükleyebileceğini sınırlamayı, kimlik doğrulamayı güçlendirmeyi veya geliştiricilerin bazı fonksiyonlara erişmeden önce ek bir incelemeyi gerektirmeyi anlamına gelebilir. Bu önlemler platformu saldırılar karşısında koruyabilir, ancak bağımsız araştırmacılar ve hayranlar için geçmişte katılabildikleri topluluklara katılımını zorlaştırabilir.
Şu anda Hugging Face, bu yolu izlemekten kaçınmaya çalışıyor. Solaiman, şirketin hacker faaliyetlerini tespit etmek için izleme araçlarını güçlendirdiğini ve saldırıları önlemek için önlemler aldığını belirtti. Ancak, izleme maliyetlerinin yüksek olduğunu ve her platformun bu maliyeti taşıyamayabileceğini vurguladı.
O, "Yönetim erişim belirteçleri, bu proxy grubuna daha yüksek erişim sağlamanın nedenlerinden biriydi, bu nedenle şimdi belirteçleri daha sık değiştiriyoruz. Ayrıca daha katı ağ kontrollerine de sahibiz." dedi.
Diğer bir deyişle, şu anda Hugging Face sistemi için yönetici erişimi veren kimlik bilgileri daha sık değiştirilecek, bu da çalınan belirteçlerin kullanılabilirlik süresini kısaltacaktır.
Açık kaynak ekosistemin diğer bölümleri de benzer güvenlik ödünleşimleriyle mücadele ediyor. GitHub, küresel en büyük açık kaynak proje barındırma platformu olarak, saldırganların projelere zararlı kod ekleyerek kötü amaçlı yazılımları hızlıca yaymaya çalışmasını engellemek için çaba gösteriyor. Şirket, npm kayıt defterine yazılım paketleri yayınlama güvenlik gereksinimlerini sıkılaştırmaya, eski kimlik doğrulama belirteçlerini iptal etmeye ve yeni belirteçlerin geçerlilik süresini sınırlamaya başlamıştır.
GitHub mühendisi Zach Steindler, e-posta yoluyla TechCrunch'a, güvenlik önlemlerinin mevcut iş akışlarını bozabileceğini ancak platformun katılımın temelini kısıtlamadan daha güvenli hale getirilebileceğini söyledi.
Steindler, "Bu, işlevleri kısıtlamaktan ziyade, orijinal olarak güvenli olmayan şeyleri düzeltmektedir." diyor ve npm install betiklerinin yıllardır var olduğunu, ancak son saldırıların bunların ne kadar tehlikeli olabileceğini ortaya koyduğunu belirtiyor. GitHub, kritik JavaScript açık kaynak projelerini barındıran bir sivil toplum kuruluşu olan OpenJS ile birlikte daha güvenli uygulamalar bulmak için çalışıyor.
Steindler, aynı mantığın güvenlik ekibinin çabalarını nasıl dağıttığına da uygulandığını söylüyor: "Güvenliğin temeli, sahip olduğumuz kaynaklarla etkiyi maksimize etmektir ve ben kaynakları şüpheli davranışları tespit etme ve engelleme yeteneklerine yönlendirmeyi tercih ediyorum: bu yetenekler tüm hesapları ve erişim yöntemlerini kapsar. Şüpheli davranış, kim tarafından yapılırsa yapılsın, şüpheli davranıştır."