F-Secure, AI'nin tüketicilere zarar verebileceği 26 yolu ve bu riskleri nasıl önleyebileceğinizi belirliyor
Yeni AI zarar sınıflandırması, yanlış bilgilendiren sohbet robotu cevaplarından kırılgan otonom ajanlara kadar zararın AI sistemlerinde nasıl yayıldığını izler ve savunma önlemlerinin nerede müdahale edilebileceğini belirler.
Los Angeles, 10 Kasım (Reuters) / PRNewswire – Yapay zekâ, şimdi arama, iletişim, karar verme ve dijital yaşamı yönetme şeklimizi etkiliyor. Ancak hata yaptığında insanlara nasıl zarar verebilir? F-Secure’un yeni yayımladığı AI Harms Taxonomy, 26 farklı tüketicinin zararını haritalandırarak her bir zararın kullanıcıya nasıl ulaştığını izliyor. Sonuç olarak, koruyucu önlemlerin nerede müdahale edebileceği ve kimlerin en çok yardım etme kapasitesine sahip olduğu net bir şekilde ortaya çıkıyor.
Bu sınıflandırma, F-Secure'in baş threat intelligence araştırmacısı Megan Squire Ph.D. tarafından, yapay zeka riskleri tartışmalarındaki bir boşluğu gidermek amacıyla geliştirilmiştir. Çoğu çerçeve, olası hataları yalnızca listeler, ancak bu zararları önleyebilecek sistemlerle ve şirketlerle ilişkilendirmez. F-Secure'in araştırması, yapay zeka tarafından tetiklenen tehditler ile tüketicilere olan etkileri arasındaki her bir katmanı inceleyerek, savunma önlemlerinin nerede yerleştirilmesi gerektiğini belirtir.
Doktor Squire, “Yapay zeka sistemlerinin yetenekleri arttıkça, hatalarının sonuçları sadece kötü bir cevap vermekten çok daha fazlasına neden olabilir. Bu sistemleri geliştirenlerin, sistemlerin nasıl başarısız olabileceğini, başarısızlık durumunda kimin zarar görebileceğini anlayıp, zarar oluşmadan önce koruma önlemleri almaları sorumluluğundadır.”
Bu sınıflandırma, riskin kendisinin değiştiğini yansıtmaktadır. Geçmişte suçlular doğrudan bir birey hedef alırdı, ancak şimdi AI ortada yer alıyor ve bu, yeni katılımcılar getirirken aynı zamanda yeni hata türlerine de yol açıyor. Birinin adına hareket eden bir asistan, zarara neden olmak için manipüle edilebilirken, sohbet robotları da kullanıcıları kendinden emin bir şekilde yanıltabilir. Daha temel düzeyde, sorunlar genellikle AI'nın talimatları ve belleği nasıl işlediğinde veya hangi diğer hizmetlere bağlandığında başlar.
Bu araştırma, şu anda 26 farklı zararı beş tür ilişki ve 19 katmanlı ara varlık ile sınıflandırıyor ve farklı aşamalardaki risklere karşı 24 savunma önlemi tasarlıyor. Örnekler arasında AI tarafından oluşturulan ses ve video sahtekarlığı, temsilcilerin zararlı finansal kararlar vermesi, kişisel bilgilerin sızdırılması veya eski bağlamlarda eylemde bulunma yer alıyor. Araştırma ayrıca, kötü niyetli talimatların AI sisteminin işlediği içeriklerde gizlendiği ve bu sayede temsilcilerin davranışlarını veya sohbet robotlarının kullanıcılara ne söyleyeceğini etkileyebileceği gibi bir saldırıyı da inceliyor.
Bu çerçevenin temel bulgularından biri, AI'nın zarar vermesini önleme sorumluluğunun birden fazla katılımcı arasında paylaşıldığıdır. Bazı riskler, bireysel cihazlardaki güvenlik yazılımlarıyla ele alınabilir; diğerleri ise AI ürünlerini ve altta yatan sistemleri geliştiren şirketler tarafından, AI'nın bilgileri nasıl hatırladığı ve hangi diğer hizmetlere bağlandığı dahil olmak üzere, daha yukarı seviyede çözülmelidir. Hangi aşamada kimin sorumlu olduğu netleştirilerek, savunmanın nerede yerleştirilmesi gerektiği ve kimin bunu inşa etmesi gerektiği belirlenebilir. Bu aynı zamanda, insanların yalnızca şüpheli içerikleri tanımlayarak veya AI'nın sunduğu bilgileri tekrar tekrar kontrol ederek kendilerini güvenli tutabilecekleri fikrini zayıflatarak, bu sorumluluğun tamamen bireysel bir yük olarak görülmesini engeller.
Yapay zekânın “bilgi üretmek”ten “bilgiye dayalı eylemde bulunmak”a geçmesiyle, sorumluluğun kimde olduğu sorunu daha da acil hale geliyor. Sohbet botları yanlış cevap verirse, kullanıcıları yanıltabilir; ancak en azından kullanıcı bu etkileşime dahil olur. Ancak bir kullanıcı hesabına ve ilişkili hizmetlere erişebilen bir ajan, bu tür karşılıklı onaylar olmadan gerçek sonuçlar yaratabilir. Koruma önlemleri, bu sistemlerin aslında ne yaptığını temel alarak oluşturulmalıdır ve bu, sohbet botları ile ajanlar arasındaki farkı anlamaktan başlar.
AI ajantları için koruma oluşturun
Bu araştırma, F-Secure'in AI çağına güven oluşturmak amacıyla yaptığı daha geniş çaplı çabaların bir parçasıdır. F-Secure Trust, Quantum AI Lab QuTwo ile kurduğu stratejik ortaklıkla birlikte duyuruldu ve bu, AI ajantlarının giderek daha fazla insan adına hareket ettiği dünyada kullanıcıları koruma çabasını temsil eder. TrustGuard, insanların AI etkileşimleri sırasında güvenliğini korumaya yardımcı olmayı amaçlar; TrustPath ise onların keşiften teslimata kadar olan dijital yolculuğunu korumayı hedefler. AI Harms Taxonomy, bu çalışmalar için araştırma temeli oluşturur, koruma önlemlerinin karşı karşıya kalacağı riskleri belirler ve etkili güvencelerin, AI sistemlerini oluşturan ve çalıştıran şirketlere de bağlı olduğunu açıkça gösterir.
AI çağına yönelik insan odaklı araştırma
Günümüzün dijital tehditleri artık sadece dolandırıcılık değil. F-Secure'in Illuminate Research ekibi, insanları ve teknolojiyi gerçek hayatta nasıl etkileşime girdiğini araştırarak, AI çağındaki güven, aldatma ve çevrimiçi direnç karmaşalarını keşfediyor. AI Harms Taxonomy, Illuminate Research Hub'da mevcuttur.
F-Secure hakkında
F-Secure, 38 yıldır dijital tehditlerle mücadele eden, insan odaklı ve yapay zeka destekli bir tüketiciler için网络安全 deneyimi şirketidir. Şirket, dijital hizmet sağlayıcıların müşterilerini, yapay zeka destekli dolandırıcılıkların yaygın olduğu bir dünyada koruyarak, güveni yüksek değerli bir büyüme motoruna dönüştürmelerine yardımcı olur ve aynı zamanda müşterilerinin daha iyi bir dijital yaşam sürmelerine katkıda bulunur. Şirket, her yıl milyarlarca dijital etkileşimi korur, milyonlarca tüketiciyi küresel olarak korur ve ortaklar için 10 milyar doların üzerinde değer yaratır, kanıtlanmış bir ölçekli etki sunar.
Haber iletişim:
- Meghan Sawyer, kıdemli kamu ilişkileri yönetmeni, [email protected]
- Joel Latto, Tehdit Danışmanı ve EMEA İlişkiler Yöneticisi, [email protected]
Yukarıdaki bilgiler Cision tarafından sağlanmıştır: http://news.cision.com