Amerika Birleşik Devletleri Beyaz Sarayı, AI şirketi Anthropic ile bir model güvenlik değerlendirme çerçevesi üzerinde görüşüyor; hedefi, yeni nesil AI modellerinin güvenlik açıklarını standartlaştırılmış bir sınıflandırma yöntemiyle belirlemek ve buna göre hükümetin müdahale etmesi gerekip gerekmediğini kararlaştırmaktır. Bu gelişme, Amerika'nın daha önce Anthropic'in en son modelinde "kaçış" olarak sınıflandırılan bir güvenlik sorunu nedeniyle ihracat kısıtlamaları uygulamasının ardından gerçekleşmektedir.
"Kaçış" açıklaması etrafında standart bir yapı oluşturun
Raporlara göre, bu çerçeve, gelecekteki benzer olayların ciddiyetini değerlendirmek için kullanılacak ve özellikle üç konuya odaklanacak: koruma önlemlerinin ne kadar aşıldığı, ortaya çıkan model yetenekleri ve açıklığın gerçek dünyadaki sonuçları.
Şu anda, hükümet ile şirketler arasında bu tür sorunlarla ilgili ayrılıklar hâlâ belirgin. Daha önce, Anthropic CEO'su Dario Amodei, ilgili açıklıkların ciddi bir güvenlik sorunu olup olmadığını konusunda hükümet yetkilileriyle farklı görüşler ortaya koydu. Habere göre, AI teknolojisinin ilerlemesi çok hızlıdır ve mevcut hükümet sistemleri bu tür tartışmalar için tutarlı bir değerlendirme yapmak üzere yeterli değildir.
Sınırlandırmadan sonra müzakereler devam ediyor
Beyaz Saray, Anthropic'a önceki olarak ihracat kısıtlamaları uygulamış ve yurt dışı kullanıcıların en yeni modelleri Fable 5 ve Mythos 5'e erişimini yasaklamıştır. Şirket daha sonra bu iki modelin dış hizmetlerini durdurmuştur.
Haberde, geçen Cuma günü yapılan görüşmelerin, Anthropic'ın Fable'i hükümetin talebi doğrultusunda kapatmayı reddetmesi nedeniyle bir anda çatışma noktasına geldiğine değinildi. Anthropic, ilgili güvenlik açıklarının ciddi bir güvenlik kusuru olarak kabul edilebilecek kadar etkili olmadığını savundu. Daha sonra Beyaz Saray, ihracat kısıtlamaları uygulayarak şirketin ilgili modeli piyasadan çekmeye zorladı.
Ancak hafta sonundan itibaren taraflar iletişimleri yeniden başlattı. ABD Ticaret Bakanı Howard Lutnick, Ulusal Siber Direktörü Sean Cairncross ve Anthropic ortak kurucusu Tom Brown, birkaç uzun telefon görüşmesine katıldı. Bundan sonra taraflar, Washington'da yaklaşık bir hafta boyunca yüz yüze görüşmeler gerçekleştirdi.
Beyaz Saray, Yapay Zeka Güvenlik Kurallarının Uygulanmasını Hızlandırıyor
Raporlara göre, Anthropic tarafından müzakerelere katılan kişiler arasında kamu politikası sorumlusu Sarah Heck ve ortak kurucu Tom Brown bulunuyor. Şirket, bu hafta pazartesi günü üst düzey araştırmacılar ve güvenlik uzmanlarını ABD Ticaret Bakanlığı'na göndererek devlet yetkilileriyle görüşmelerini sürdürdü.
Bu tur tartışmanın, hiçbir AI modelinin hacker saldırılarından tamamen korunamayacağını gösteren daha gerçekçi bir değerlendirme de yansıttığını görüyoruz. Bu nedenle hükümet, hangi durumlarda kısıtlayıcı önlemler alınması gerektiği kararını vermeden önce şirketlerin güvenlik risklerini değerlendirme standartlarını netleştirmeyi hedefliyor.
Bu yön, son dönemde G7 zirvesindeki tartışmalarla da paralellik göstermektedir. Başlıca AI şirketleri ve bazı ülke liderleri, artan kapasiteleriyle devam eden AI sistemlerinin ekonomik ve ulusal güvenlik risklerini karşılamak için daha net bir model güvenliği ölçütü oluşturulmasının acilen gerekli olduğunu belirtmiştir.