Signal CEO Meredith Whittaker, Bloomberg röportajında ChatGPT, Claude gibi sohbet robotları hakkında konuşurken, kullanıcıların bu tür sistemleri “arkadaş” olarak veya subjektif bir bilinçe sahip bir iletişim ortağı olarak görmemeleri gerektiğini belirtti. Tartışmayı gizlilik ve izin sorunlarına odakladı ve bu araçların kişisel hizmetlere derinlemesine entegre edilmesi durumunda risklerin hızla artacağını düşündü.
Whittaker, AI kullanım sınırları hakkında
Whittaker, belirli senaryolarda belge biçimlendirme gibi AI araçlarını kullanacağını, ancak soru sorma, düşünme ve yazma süreçlerini modellere bırakmayacağını ifade etti. Kişisel olarak yapılması gereken düşünme sürecinin, mevcut bilgilerden cevap üreten bir sisteme bırakılmamasını istedi.
Uygulamalar arası hassas izinlerin alınması konusunda endişe
O, Microsoft AI işleri sorumlusu Mustafa Suleyman'ın daha önce sunduğu bir fikri de yanıtladı: kullanıcıların Microsoft Copilot'a Noel alışverişi yapmasını sağlamak. Whittaker, bu senaryonun gerçekleşmesi için sistemin büyük miktarda kişisel veriyi okuması ve birden fazla hizmet arasında işlem yapması gerektiğini düşündü.
- Kredi kartı ve ödeme bilgileri
- Tarayıcı gezinti geçmişi
- Sinyal İletişim İçeriği ve Kişiler
Yukarıdaki bilgilerin dışında, bu tür sistemler ev adresi ve takvim düzenlemelerine de erişebilir ve kullanıcı adına akrabalarına ve arkadaşlarına mesaj gönderebilir. O, bunun tek bir aracın yardımcı kullanımı olmadığını, bunun yerine birçok uygulamaya ve hizmete geniş erişim oluşturduğunu düşünüyor.
Signal, bu tür erişimleri arka kapı riski olarak görüyor
Whittaker, benzer yeteneklerin Signal gibi şifreli iletişim ürünlerine entegre edilmesinin, ürün güvenliği açısından neredeyse bir "arka kapı" kurmakla eşdeğer olduğunu ekledi. Bu sayede, AI asistanı fonksiyonlarının ne kadar görev ve temsilci yürütme ile yakınsa, kullanıcıların bunların gerçek olarak hangi izinlere sahip olduğuna o kadar çok dikkat etmesi gerektiğini vurguladı.
Bu ifade, ürünün sorulara cevap vermekten kullanıcıların işlerini yerine getirmeye doğru ilerlediği durumda, kolaylık ile gizlilik koruma arasındaki çatışmanın daha doğrudan hale geldiğini de göstermektedir.