OpenAI, ChatGPT masaüstü sürümüne Apple Mesajlar eklentisini ekledikten sonra, kullanıcılar Mac üzerinde sohbet robotuyla eski mesajları aratabilir, grup sohbetlerini özetleyebilir, yanıt taslakları oluşturabilir ve mesajları doğrudan gönderebilir. Bu özellik, kurulum yapan kullanıcı tarafından el ile izin verilmesini gerektirir, ancak aynı sohbetteki diğer katılımcılara herhangi bir uyarı verilmez; bu da hemen gizlilik ve güvenlik tartışmalarına yol açmıştır.
Odak, deşifreden sonraki erişimde.
Çok sayıda güvenlik uzmanı, tartışmanın ChatGPT'nin Apple'ın uçtan uca şifrelemesini kırması olmadığını, mesajın alıcının cihazına ulaştıktan sonra yerel yazılım tarafından okunabilir hale gelmesi olduğunu belirtti. Yani, şifrelenmiş iletim kendisi bozulmadı, ancak üçüncü taraf araçları cihaza erişim elde ettikçe, yalnızca diyalog tarafları arasında görülebilen içerikler ek sistemler tarafından aranabilir ve analiz edilebilir hale geldi.
Güvenlik ve gizlilik uzmanı Paul Walsh, Fortune'a bu tür erişim yöntemlerinin en büyük endişe verici tarafının, yetkilendiren kişinin sadece kendi verilerini değil, yıllarca süren sohbet kayıtlarındaki diğer kişilerin mesajlarını da üçüncü taraf sistemlerine açtığını söyledi. Şifrelenmiş iletişimleri hassas işlemler için kullanan kişiler için bu, gizli iletişim beklentilerini zayıflatacaktır.
OpenAI, varsayılan olarak yerelde tutulacağını belirtti.
OpenAI, eklentiler etkinleştirildiğinde ChatGPT'nin kullanıcı bilgilerinin bir dizinini otomatik olarak oluşturmayacağını veya tüm sohbetleri aktif olarak okumayacağını belirtti. Sistem, yalnızca kullanıcı bilgi içeriğiyle ilgili açık bir istekte bulunduğunda ilgili mesajlara erişecektir.
Şirket ayrıca, ChatGPT masaüstü sürümünün ilgili sohbetleri varsayılan olarak yerel bilgisayarda sakladığını, Apple Mesajları'ndan gelen içeriklerin otomatik olarak OpenAI sunucularına senkronize edilmeyeceğini belirtti. Ancak kullanıcılar ChatGPT sohbetlerini buluta kaydetmeyi seçerse, bu mesaj içerikleri aynı depolama ve saklama kurallarına tabi olacak ve bulut hafızası işlevine de dahil olabilir.
- Varsayılan olarak, mesaj içeriği kullanıcıların Mac'lerinde yerel olarak kalır.
- Sadece açık bir soru sorulduğunda sistem bilgi içeriğine erişir.
- Sohbet buluta kaydedilirse, ilgili içerikler de buluta girecektir.
Güvenlik şirketleri, yetkilerin genişlemeye devam etmesinden endişe ediyor.
Mobil güvenlik şirketi Lookout'un baş teknoloji officer'i Dave Richardson, bu özelliğin doğrudan “casus yazılım” olarak adlandırılması, varsayılan olarak kapalı olması ve kullanıcıdan açık izin gerektirmesi nedeniyle aşırı olabilir; ancak bu, önceden güvenli kabul edilen iletişim kanallarına açık bir risk getirecektir.
O, uçtan uca şifrelemenin, mesajların cihazlar arasında iletimi sırasında koruma sağladığını, platformun veya ağ sağlayıcının yol boyunca içeriği okuyamayacağını ancak mesajın hedefe ulaştıktan sonra cihazın hala erişim sağlayabileceğini belirtti. Kullanıcı, bu içeriği OpenAI veya Anthropic gibi üçüncü taraf hizmetlerine açarsa, uçtan uca şifrelemenin gerçek koruma alanı daralır.
Özellik şirketi Proton, Salı günü yaptığı bir analizde, bu tür risklerin ChatGPT'yi hiç kullanmayan kişilere de sıçrayabileceğini belirtti; çünkü diyalogun diğer tarafı eklentiyi etkinleştirdiğinde, gönderilen mesajlara erişilebilir hale gelebilir. Proton, kurulum sırasında verilmesi gereken "tam disk erişim izni"nin de daha geniş bir güvenlik endişesi olduğunu ekledi.
Yapay zeka daha fazla hassas uygulamaya girmeye başlıyor
Bu tartışma, AI araçlarının sohbet kutularından daha derin cihaz izinlerine doğru ilerlediğini de yansıtmaktadır. Lookout'un Fortune'a sunduğu araştırmaya göre, geçen yıl boyunca AI ile ilgili uygulamaların talep ettiği veri izinleri ve yüksek riskli yetenekler sürekli artmıştır; iOS platformundaki bu eğilim de genişlemektedir.
OpenAI, bu eklentinin Apple'ın ChatGPT için yeni bir iMessage arayüzü oluşturmadığını, bunun yerine macOS'un mevcut yeteneklerini kullandığını açıklıyor. Kurulum sırasında kullanıcılar, AppleScript, yardımcı özellikler ve tam disk erişimi gibi izinleri onaylamalıdır.
Yapay zeka ajantlarının cihaz kontrolüne daha fazla yetki kazandıkça, tartışmalar artık "kullanıcıların yetki verip vermemesi" ile sınırlı kalmıyor; aynı diyalogdaki diğer katılımcıların bilgi sahibi olup olmadığı ve özel iletişimlerin yapay zeka tarafından aranıp özetlendikten ve uzun vadeli olarak saklandıktan sonra yeni veri çıkış noktaları ortaya çıkıp çıkmayacağı da dahil.