Yapay Zeka Şirketleri, İstihbarat Endişeleri Arasında Siber Güvenlik Riskleriyle Karşı Karşıya

Tal Feldman ve Ibrahim Dagher, önde gelen ABD yapay zeka şirketlerindeki zayıf siber güvenliklerin Çin üzerindeki ülkenin avantajını tehdit ettiğini savunuyor. Feldman ve Dagher, Washington'un başka bir yasa çıkarmadan daha güçlü güvenlik gerektirebileceğini savunuyor. Yazarlar, kamu tartışmasının yapay zeka ajanlarının diğer şirketlere saldırmalarını doğru bir şekilde incelediğini, ancak yapay zeka şirketlerinin girişimleri önleyip önleyemeyeceğini gözden kaçırdığını savunuyor.

OpenAI, son zamanlarda bir Suudi çalışanının, bir yönetici toplantısı odasına bir ses kaydetme cihazı yerleştirdiğini öğrendi. Bu oda, OpenAI'nin San Francisco merkezinde, üst düzey çalışanların gizli materyalleri, özellikle mülkiyet haklarına sahip araştırmaları düzenli olarak tartıştığı bir yerdir. Temmuz ayında, güvenlik açıklarını araştıran üç araştırmacı, OpenAI'nin sistemlerine nüfuz ederek algoritmik sırları içeren bir dahili kod deposuna ulaştı. OpenAI, bu zafiyetleri raporladıkları için araştırmacılara 6.500 dolarlık bir ödül ödedi. Araştırmacılar, özellikle gelişmiş bir hack araçları kullanmadan, 72 saatten az bir sürede nüfuz tamamladı. Araştırmacılar biri, The Wall Street Journal'a, "Sadece Claude ve Codex aboneliklerine sahip üç kişiyiz," dedi; bu, Anthropic ve OpenAI'nin genel erişime açık kodlama ajanlarını ifade ediyor. 2023 yılında bir hacker, OpenAI'nin dahili mesajlaşma sistemine de nüfuz ederek OpenAI'nin araştırmalarıyla ilgili bilgileri ele geçirdi. OpenAI, bu nüfuz hakkında FBI'a ya da kamuoyuna hiçbir bilgi vermedi.

Feldman ve Dagher, Çin gibi ülkelerin ABD AI şirketlerine sızmak için gerekli olan gelişmiş araçlara, zamana ve teşviklere sahip olduğunu savunuyor. Yazarlar, önde gelen ABD modellerini çalmak, rakiplerin geliştirme maliyetlerini ödemeden farkı kapatmasını sağlayacağını savunuyor. Yazarlar, gelişmiş çip satışlarına getirilen kısıtlamaların ve AI altyapısına yapılan milyarlarca dolarlık yatırımların, laboratuvarların siber güvenliği ciddiye almaması durumunda hiçbir şeyi değiştirmeyeceğini uyarıyor. Yazarlar, üç olayın daha geniş bir güvenlik sorununu gösterdiğine işaret ediyor.

Yapay zeka şirketleri, gelişmiş casusluk karşıtı yetersiz savunmalarını açıkça kabul etti. Anthropic CEO'su Dario Amodei, 2023'te bir hükümetin model ağırlıklarının çalınmasını öncelikli hedef yaparsa, Anthropic'e karşı başarılı olacağını söyledi. Model ağırlıkları, yapay zeka modelini oluşturan milyarlarca sayısal değerdir ve bu değerler aylarca maliyetli eğitimler sonucu üretilir. Ancak Anthropic'in bu Ağustos'taki risk raporunda hâlâ Anthropic'in devlet düzeyi saldırganlara karşı direnemeyeceği ve "şu anda hiçbir öncü yapay zeka geliştiricisinin bu standartı karşılamadığına" inanıldığı belirtildi. Eskiden Anthropic ve OpenAI'de çalışan Jacob Coxon, Pekin'in istediği zaman ABD'nin ilerlemesini çalabileceğinden dolayı hiçbir ABD avantajının kalıcı olamayacağını savundu. OpenAI'nin gelişmiş yapay zeka için hazırlık çalışmalarında yer alan Miles Brundage, yapay zeka şirketlerinin bile devlet aktörlerinin model ağırlıklarını çalmasını veya değiştirmesini engelleyebileceğini iddia etmediğini söyledi.

Rand araştırmacıları, taşınabilir cihazlar yerleştirme, kurulumdan önce donanımı değiştirme ve çalışanları rüşvet verme ya da zorlama dahil olmak üzere model ağırlıklarını çalmak için 38 yöntem tespit etti. Bulut şirketlerinin veri merkezleri, AI laboratuvarlarının genellikle bu tesisleri modelleri eğitmek ve çalıştırmak için kullanması nedeniyle başka bir giriş noktası sağlıyor. Endüstrinin algoritmik sırları da yeterli korumaya sahip değil. Amodei, geçen yıl Foreign Relations Konseyi'ne, "$100 milyon" değerinde bazı AI endüstrisi sırlarının sadece birkaç satır kodla sınırlı olduğunu söyledi. Amodei, bu sırların çalınmaya çalışıldığını ve zaten başarıyla çalındığına dair şüpheler olduğunu belirtti.

Yapay zeka şirketleri, süper zekâyı geliştirmek için yoğun bir şekilde rekabet ediyor. Siber güvenlik için harcanan para ve çalışan zamanı, bir sonraki modeli eğitmek için kullanılamaz. Anthropic, iyi finanse edilmiş devlet saldırganlarına karşı direnmenin endüstrinin siber güvenlik önceliği olması gerektiğini savundu. Ancak Anthropic, şirketin bu önceliği bağımsız olarak takip etmeye taahhüt edemeyeceğini söyledi.

Geçen yıl Kongre, Savunma Bakanlığı'na satın alınan Yapay Zeka için güvenlik gereksinimleri belirlemeyi ve bu gereksinimleri ilgili sözleşmecilere ve bulut sağlayıcılarına uygulamayı emretti. Savunma Bakanlığı, 10 ay sonra bile kamu kuralları düzeltme sürecini başlatmadı. Ticaret Bakanlığı, lisans gerektiren model ihracatlarını belirleyebilir ve güvenlik gereksinimlerini karşılayan laboratuvarlara sınırlı lisans verebilir. Trump yönetimi, bu yetkiyi kullanarak Haziran ayında Anthropic'yi Mythos ve Fable'i piyasadan çekmeye zorladı. Federal hükümet, veri merkezi inşaatını destekleyen kredilere ve arazi kira sözleşmelerine güvenlik koşulları ekleyebilir. Bu yaklaşım altında, yalnızca katı güvenlik gereksinimlerini karşılayan Yapay Zeka şirketleri federal finansman alabilir veya kamu arazisi kullanabilir. Feldman ve Dagher, üç araştırmacının Claude aboneliklerini kullanarak üç günde yapabildiği şeyin, önemli miktarda finansmana ve sınırsız zamana sahip bir yabancı hükümetin OpenAI'ye kesinlikle sızmasına imkan sağlayabileceğini sonucuna varıyor.