Amazon, güvenlik endişeleri nedeniyle Anthropic modeline kısıtlamalar getirmek için baskı yapıyor

DeepFlow Tech haberine göre, 14 Haziran'da The Wall Street Journal, ABD hükümetinin Anthropic modeli Fable 5 / Mythos 5 için uyguladığı ihracat kısıtlamaları ve erişim sınırlamalarının bir kısmının, Amazon'un网络安全 araştırmaları ve AWS CEO'su Andy Jassy ile Beyaz Saray arasındaki iletişimlerin teşvik etmesiyle ortaya çıktığını rapor etti. Amazon'un sunduğu araştırmaya göre, bir dizi ipucu testiyle araştırmacılar, Fable 5'in ağ saldırıları için kullanılabilen hassas bilgiler üretmesine neden olabildi ve bu da güvenlik endişelerine yol açtı. Daha sonra Andy Jassy, bu bulguları ABD hükümetine ilettiler ve bu da Beyaz Saray'ın yabancı kullanıcıların bu modele erişimini yasaklamayı da içeren daha fazla kısıtlama alma kararını tetikledi. Anthropic, hükümetin bu sorunu "kaçış (jailbreak)" olarak tanımlamasını reddediyor ve benzer açıklıkların GPT 5.5 dahil diğer açık modellerde de ortaya çıkabileceğini belirtiyor. Bazı güvenlik araştırmacıları da bu görüşü destekliyor ve ilgili sorunun ciddi bir model aşımı değil, daha çok "ipucu enjeksiyon riski" olduğuna inanıyor. Ayrıca, eski ABD Ticaret Bakanlığı yetkilisi Kate Kolen, Beyaz Saray'ın Anthropic'e yönelik mevcut politika tutumunun bu kararın değerlendirilmesini etkileyebileceğini ortaya koydu, çünkü Anthropic, yapay zeka güvenlik sınırları konusunda Beyaz Saray ile anlaşamadı; bu sınırlar arasında modelin büyük ölçekli gözetim veya ölümcül otomatik silah sistemleri için kullanılmasını reddetmek yer alıyordu. İki taraf bu yılın başlarında işbirliğini hafifletip genişletmiş olsa da,