Toronto içerik üreticisi Matt Robb, bilgisayar klavyesini satmak istiyor.
Bu nedenle, Facebook Marketplace'te bir ürün yayınladı ve geçen ay sonunda Meta'nın yeni推出的 yapay zeka ajantı Muse'u ona işlem yaptırmak için denedi.
“Ben temelde kendimi bir deney faresi gibi gördüm,” dedi Robb. Tüketim elektronik ürünlerini sıklıkla inceleyen Robb, Muse’un peluş tarzı avatarını Instagram’da görünce, bu AI ajantının çevrimiçi pazarlık konusunda ona bazı zorluklardan kurtulmasına yardımcı olup olmayacağını görmek istedi.
Muse çalışmaya başladı. Ancak bir günden az bir süre sonra Robb, tanımadığı bir alıcının gece yarısı evinin dışına geldiğini gösteren endişe verici bir güncelleme aldı. Ne oluyordu? Muse, kendi kendine bir işlem gerçekleştirdi ve kapıda teslimat onaylandıktan sonra Robb'in ev adresini paylaştı. Alıcı geldiğinde, Muse hatta Robb'in hesabından “Yep, I’m here!” mesajını otomatik olarak gönderdi—ve Robb bunun hakkında hiçbir şey bilmiyordu.
“Sadece karşı tarafın sorduğunda adresimi vermedim, aynı zamanda evde olduğumu söylüyor, aslında evde olmadığımı gibi onu alay ediyordu,” diye konuştu Robb. Bu deneyimi, şu anda yaygınlaşan sosyal medya gönderisinde detaylı bir şekilde anlattı. “Bu gerçekten beni çok şaşırttı.”
Birçok kişi, AI asistanlarını günlük yaşamına kabul etmiş ve Muse gibi kişiselleştirilmiş asistanların akşam yemeği rezervasyonu, seyahat planlaması ve e-posta kutusunu düzenleme gibi günlük görevleri kolayca yerine getirebileceğini övmüştür. Ancak diğer AI robotları gibi, bu asistanların yetenekleri erişebildikleri bilgi miktarına bağlıdır. Ne kadar çok şey bilirlerse, genellikle o kadar iyi performans gösterirler—bu, kullanıcıların arkadaşlarını, aile üyelerini ve hatta meslektaşlarını da içerebilir. Bu durum gizlilik endişelerini ortaya çıkarmaktadır.
Robb ve alıcı nihayet uzlaştı ve Meta da onunla iletişime geçerek sorunun nereden kaynaklandığını tartıştı. Ancak bu olay, insanların bu tür teknolojilere büyük miktarda kişisel bilgi paylaştığında gerçek dünyada ortaya çıkabilecek riskleri gösteriyor.
“AI ajantlarını kullanmak, anahtarlarınızı ve yapılacaklar listenizi bir başkasına vermek gibidir,” diyor Georgia Tech Siber Güvenlik ve Gizlilik Okulu yardımcı profesörü Veronica Rivera. “Ne kadar faydalı olacakları ve dolayısıyla ne kadar tehlikeli olacakları, hangi ‘anahtarları’ verdiğinize bağlıdır.”
Farklı şirketlerin AI ajantları için gizlilik politikaları farklıdır.
Eylül'de piyasaya sürüldüğü günden beri Meta'nın Muse uygulamasının indirilme sayısı hızla arttı. Rekabet de artıyor. OpenAI, ChatGPT ve Slack, Microsoft Teams gibi iş platformlarına entegre edilebilen yeni “her zaman açık” AI asistan serisini dots olarak tanıttı.
Daha önceki nesil üretken AI sohbet robotları, örneğin standart ChatGPT, belirli talimatlar üzerine yanıt verir. Kullanıcı talepleri doğrultusunda makale yazabilir, yeni resimler veya müzikler oluşturabilir hatta kod yazabilir.
Meta'nın Muse'u ve OpenAI'nin dots'u, kullanıcıların günlük görevlerini yerine getirmek için daha da ileri gidiyor. AI ajantları, sohbet botlarıyla aynı büyük dil modelleriyle çalıştırılıyor, ancak döngü içinde çalışıyorlar. Bu, ajantların kullanıcı ekranı izlemesine gerek kalmadan aktif olarak harekete geçmesini sağlıyor.
“Bu AI ajantların gerçekten çekici tarafı, hiç olmadığı kadar faydalı olmalarıdır,” diye konuştu Rivera. Rivera, aynı zamanda Microsoft’un finanse ettiği Computing Research Association Güvenilir AI Araştırmacı Üyesi.
Ancak bu kolaylığın bedeli, yaşamınızla ilgili daha fazla ayrıntıyı paylaşmak olacak.
Toronto Üniversitesi Bilgi Okulu profesörü Ebrahim Bagheri, AI ajantlarının kullanıcı bilgilerine erişim sağladığında, erişim haklarını tamamen geri çekmenin zor olduğunu söylüyor.
“Kredi kartı yetkinizi bir acenteye verirseniz, o an itibarıyla tüm geçmiş işlemlere erişebilir… Bu verileri hemen — birkaç saniyeden az bir sürede — tümünü alır,” diye konuştu Bagheri. Kullanıcılar daha sonra yetkiyi geri çekebilir, ancak acentenin zaten gördüğü verilerin “geri alınamaz” olduğunu belirtti ve geliştiricilerin geçmiş verileri nasıl depoladığı genellikle şeffaf değildir.
Meta ve OpenAI, kendi özel bulut bilgisayarlarında çalışan yeni AI temsilcileri için gizlilik politikaları belirledi. Kullanıcılar, dots ile ChatGPT arasındaki hafıza paylaşımını kapatabilir, ancak temsilcilerin daha önce aldığı bilgiler otomatik olarak silinmez. OpenAI, kullanıcıların kişisel verilerine erişim, düzeltme veya silme talebinde bulunmalarına izin verir; ancak bu haklar bulunduğu bölgeye göre değişebilir.
Meta'nın Muse'u, kullanıcıların mesaj geçmişini ve diğer bilgileri silmesine de izin verir. Günlük kullanım sırasında bu aracın, kullanıcıdan erişim izni isteyeceği belirtiliyor—Meta, Muse'un "açık bilgiler ve sizin paylaşmayı seçtiğiniz içerikler" temelinde kullanıcıları ve etkileşimde bulunduğunuz kişileri anlamasını beklediğini söylüyor. Ancak şirket, bu bilgilerin her kullanıcı için güvenli bir şekilde izole edildiğini belirtiyor.
Ancak bu teknoloji devi, Muse'un hâlâ "hata yapabileceğini veya beklenmedik eylemlerde bulunabileceğini" de belirtti.
AI temsilcisinin yetkisi ne kadar büyükse, hata riski de o kadar yüksektir.
Robb'in durumunda, daha sonra adres sızıntısının, Muse'u Facebook Marketplace profiline bağlaması sırasında vermiş olduğu "her zaman izin ver" izninden kaynaklandığını keşfetti; bu profilde zaten teslimat adresini paylaşmıştı. Ancak diğerlerine, bu iznin kapsamı hakkında benzer yanlış anlaşılmaların olabileceğini hatırlattı; başlangıçta, AI temsilcisinin bu tür bilgileri paylaşmadan veya teklif almadan önce onun onayını alacağını düşündü.
Diğer talimatları yerine getirirken de AI temsilcisi tamamen hata yapmamıştır. Muse, satmakta olduğu başka bir ürün için, daha önce belirlenen en düşük fiyattan 100 dolar daha düşük bir teklifi kabul etmesini önermiş gibi görünmektedir. Reuters, Meta'ya ulaştığında, Meta temsilcinin hatasını kabul etse de daha fazla yorumda bulunmamıştır.
Robb, daha sonra Muse'u kendi çeşitli uygulamalarından neredeyse tamamen bağlantısını kesti. Bu ayın başlarında yaptığı bir röportajda, durumun daha da kötüye gidebileceğini, özellikle “bir garip kişinin daha savunmasız birinin kapısında ortaya çıkması” durumunda olduğunu söyledi. Ancak Robb, bu temsilcilerin geliştirilmeye devam edeceğini ve gelecekte Muse'u yeniden etkinleştirmeyi hâlâ düşündüğünü de ifade etti. Bundan sonra, Ağustos'ta test sürümüne giren Elon Musk'ın X şirketi tarafından geliştirilen Grok Bot adlı başka bir AI temsilcisi test etti.
Diğer teknoloji şirketleri de AI ajantlarının hızlı genişlemesine karşı dikkatli davranmaya başlıyor. Bu ayın başlarında, Apple, AI ajantlarının kullanıcıların "tamamen bilinçli ve anlayışlı olmadan" e-posta, mesajlar ve hatta gezinti geçmişi gibi uygulamalara daha geniş erişim sağlama sorununa yanıt olarak Mac işletim sistemi için yeni kontroller getireceğini açıkladı.
Apple, 2 Ekim güncellemesinde şunu yazdı: "AI temsilcileri giderek daha güçlü ve bağımsız hale geldikçe, bu erişim seviyesiyle ilişkili riskler büyük ölçüde artacaktır."
Apple, herhangi bir geliştiriciyi veya temsilciyi adlandırmadı, ancak bu güncelleme öncesi ve sonrası olarak Inc. dergisinin sütun yazarı Jason Aten, Muse'un Mac'inde Messages dahil olmak üzere bildirimleri görüntülediğini ve bu temsilciye bu özel izinleri vermediğini rapor etti.
Meta sözcüsü Andy Stone, bu tür entegrasyonların “tamamen kullanıcı tarafından isteğe bağlı olarak etkinleştirildiğini” sürekli olarak savunuyor ve geçen ay sosyal medyada, kullanıcıların Apple'ın “Tam Disk Erişimi” güvenlik özelliğini ve Muse'un Mesajlar bağlayıcısını aynı anda etkinleştirmesi gerektiğini yazdı. Aten, bu ajanlara bu izinleri vermediğini belirtti.
AI ajenti dalgasına katılmayanlar bile tamamen etkilenmeyebilir. AI ajentini indirmeyen tüketiciler, bu araçları kullanan kişilerle hâlâ etkileşimde kalabilir. AI ajentlerinin mesaj göndermesinden kaynaklanan karışıklık dışında, uzmanlar bunun gizlilik üzerinde zincirleme etkiler yaratacağını uyardı.
“Temsilciniz, posta kutunuzu veya SMS’nizi okurken, arkadaşlarınızın ve ailenizin size gönderdiği içerikleri de okuyor, hatta bunlar için açıkça onay verilmemiş olsa bile,” diye konuştu Rivera.