Chris Thomas, neredeyse kendisini tamamen AI cihazlarına kaptırdı.
43 yaşındaki Thomas, Meta'nın kamera içeren gözlüklerini, Fieldy'nin not tutma kolyesini ve Amazon Bee'nin çıkardığı bir bileklik takıyor; bu cihazlar günlük yaşamını kaydediyor. Pittsburgh'lı girişimci ve canlı yayın yapan Thomas, bu cihazların ona düzenli kalmasına, faturaları zamanında ödemeye ve hatırlatmalar ayarlamaya yardımcı olduğunu söylüyor.
Thomas, bir röportajda, "Çok şey unutuyorum. Hayatım çok çılgın, her şeyi hatırlamaya gerek duymadan yaşamak harika hissettiriyor." dedi.
Ancak herkesin yaşam tarzını kabul etmediği de doğrudur. Bu haftanın başlarında, yerel bir barda olduğunda, bir gözlemci Meta gözlüklerini fark etti.
Thomas, "O zaman 'Şu anda iyi hissetmiyorum,' dedi. Onu kapatmayacağım, hemen çıkaracağım, çünkü insanlar gerçekten kapalı olduğuna inanmıyorlar."
Gittikçe daha fazla teknoloji şirketi, AI ile desteklenen ve sürekli dinleyen cihazlar ve özellikler sunarken, kullanıcılar bu tür etkileşimlere giderek daha sık maruz kalıyor. Bu ürünler, toplantıları transkribe etmek, konuşmaları kaydetmek, hatırlatmalar ayarlamak ve kişiselleştirilmiş öneriler sunmak için kullanışlı araçlar olarak tanıtılıyor.
Bu tür cihazların en son örneği Perşembe günü tanıtıldı: Amazon, Bee Frontier takılabilir cihazını ve akıllı telefona bağlanabilen kart şeklindeki Bee Eclipse'i sundu. İki cihaz da kullanıcının gününü kaydetmeyi, transkribe etmeyi ve analiz etmeyi amaçlıyor.
Apple, Eylül'de duyurulan en yeni Apple Watch Series 12'de, Siri Recap adlı bir özellik bulunacak ve bu özellik, gün boyunca "çevresel" olarak not alacak ve diyalog özetleri oluşturacak. Ayrıca, Live Rewind adlı başka bir özellik, bir diyalogun 15 saniyelik kısmını metin transkripsiyonu aracılığıyla geriye doğru izlemenizi sağlayacak.
Meta'nın popüler akıllı gözlükleri fotoğraf çekebilir, video kaydedebilir ve sesli not veya hatırlatma kaydedebilir. Plaud ve Pocket gibi başlangıç şirketleri de kart boyutunda not cihazları geliştirdi, Friend ise bir AI kolye sundu.
Bu cihazlar, izleyicilerin onayı olmadan gizlice ses kaydetmesi ve başkalarının eline geçebilir hassas verileri toplaması nedeniyle dışarıda endişelere neden oldu.
Amazon, Google ve diğer sesle etkinleştirilen akıllı hoparlör üreticileri, ürünlerini piyasaya sürerken benzer gizlilik endişeleriyle karşılaştı; bazı durumlar nihayetinde dava ve düzenleyici cezalara yol açtı.
Ancak bu yeni nesil AI cihazları gizlilik yasalarının sınırlarını da test ediyor.
Önceki nesil akıllı hoparlörler, belirli bir “uyandırma kelimesi” ile etkinleştirilir ve bazen kayıtları saklar ya da sesleri buluta gönderirdi; ancak bu ürünlerin bazıları, temel sesi saklamadan sürekli olarak sesi dinleyebilir, yorumlayabilir ve anlamını çıkarabilir. Bu yetenek, şu ana kadar yeterince test edilmemiş bir soruyu ortaya çıkarır: bu işlemin kendisi yasa dışı dinleme mi oluşturur?
Tufts Üniversitesi Mühendislik Fakültesi Yüksek Öğretim Dekanı ve IEEE üyesi Karen Panetta, “Bu tür yeni teknolojilerle karşılaştığım zaman her zaman dikkatli bir şekilde kabul etme tutumunu benimsiyorum.”
O, "Kendimi kaydetmeye izin vermek veya gördüklerimin tümünü kaydetmeye izin vermek, etrafımdaki herkesin zaten kabul ettiğini anlamına gelmez," dedi.
Gri alan
Apple ve Amazon, erken sesli asistanların yol açtığı bazı gizlilik tartışmalarını atlamış gibi görünüyor.
Apple, bu özelliğin sesleri depolamayacağını, kayıtları sunucularına göndermeyeceğini ve insan tarafından incelenmeyeceğini belirtti. Amazon ise Bee cihazının seslerini depolamayacağını, diyalogların güvenli bir ortamda işleneceğini ve "burada Amazon dahil hiçbirinin verilerinize erişemeyeceğini" ifade etti.
Ancak bu, yasal sorunları çözmeyebilir.
Birçok eyaletin dinleme ve gizli kaydetme yasaları, geleneksel anlamda bir ses kaydı oluşturulup oluşturulmadığından ziyade, özel iletişimlerin engellenip engellenmediğine veya içeriğinin elde edilip edilmediğine odaklanır.
Foley Hoag'ın gizlilik ve veri güvenliği avukatı Colin Zick, Apple'ın ses asistanları etrafındaki ilk dava dalgasından ders aldığını belirtti. Ancak yeni teknolojiler, daha önceki davaların cevaplamak zorunda kalmadığı soruları ortaya koyuyor: Sistem altta yatan sesi kaydetmesine rağmen sürekli olarak sesleri dinliyor, yorumluyor ve özetlere dönüştürüyorsa, bu hâlâ bir "kesinti" olarak kabul edilebilir mi?
Bazı eyaletlerin yasaları, "kamuya kapanma" tanımını geniş şekilde yorumlar. Örneğin, Massachusetts yasaları, "iletişimi iletmek, almak, güçlendirmek veya kaydetmek" yeteneğine sahip olan cihazları kamuya kapanma cihazı olarak tanımlar ve iletişimin "içeriği", bunun özünü ve anlamını da içerebilir.
Zick'e göre, sesi sürekli alıp yazılı özetler üreten bir cihaz, ses dosyalarını saklamasas bile bu ifade kapsamına girebilir.
Bazı eyaletlerde, daha büyük yasal riskler Apple, Amazon veya diğer AI cihaz üreticilerinde değil, cihazı takan bireyde olabilir.
Zick, "Cihazı takmayanlar, bu saati satın almadı, Apple'ın şartlarını kabul etmedi ve diyaloglarının uygulamada özetlenmesini seçmedi." dedi.
New Hampshire Üniversitesi Franklin Pierce Hukuk Fakültesi Öğretim Üyesi Daniel Pi, New Hampshire eyaletinin yasal çerçevesinin yeterince geniş olduğunu ve Apple Saati'nin yeni sesli akıllı işlevlerinin bir dinleme olarak kabul edileceğini düşünüyor. Bu yasa, sadece kaydetmeyi değil, iletişim içeriğinin "duysal veya diğer yollarla elde edilmesini" de kapsıyor.
Bu, sıradan bir tüketicinin bir ana cihazın yerleşik özelliğini açıp özel bir konuşma sırasında kullandığında, en azından teknik olarak, herkesin onayı olmadan eyalet yasalarını ihlal etmesine neden olabilir.
Pi, New Hampshire kullanıcılarının bu nedenle medeni veya cezai sorumlulukla karşı karşıya kalabileceğini söyledi, ancak bu tür bir durumda gerçek bir dava riskinin çok daha düşük olduğunu vurguladı. Bir kişinin bu özelliği baştan mı aktif ettiğini belirlemek zor olabilir ve eğer sadece bir yasal ihlal mevcutsa ve kimse zarar görmediyse, savcıların bu tür davalar açmasını şaşırır olduğunu belirtti.
Bu yasal sorunlar, önceki akıllı hoparlörler ve sesli asistanlar tarafından ortaya çıkan tartışmalarla farklıdır. Bu davalar genellikle cihazların yanlış tetiklenmesi veya amaçlı bir komut olmayan sesleri yakalaması etrafında dönerken, buradaki fonksiyon, konuşmaları almak ve yorumlamak için tasarlanmıştır ve kullanıcılar aktif olarak katılmayı seçmiştir.
Pi, bunun analiz yöntemini değiştirdiğini ve sorumluluğun teknoloji şirketlerinden taşıyıcıya aktarılmasına neden olabileceğini söylüyor.
İzleyici
Daha geniş kapsamlı gizlilik endişeleri, kimin yasal sorumluluk taşıyacağıyla sınırlı değildir.
Önceden CIA çalışanı ve Veilant'ın Yeni Teknolojiler Yüksek Başkan Yardımcısı Michael Stokes, daha büyük değişikliğin, insanların AI tarafından desteklenen gözetimde yer alırken, bu cihazlara sahip olmamaları ve hatta bunlarla etkileşimde bulunduklarını bilmemeleri olabileceği yönünde.
Stokes, "Gerçekten endişelendiğim şey gözlemci sorunu—bu teknolojiye sahip olmaksızın izlenebilirsiniz."
O, akıllı gözlüklerden saatlere ve AI ses kaydedicilere kadar giderek daha fazla kamera, mikrofon ve sensörün tüketim cihazlarına entegre edildiğini belirtti. Fark, günümüzde AI'nın bu cihazların topladığı verileri hızlıca yorumlayabiliyor ve erken tüketim teknolojisinden çok daha büyük miktarda bilgiden anlam çıkarabiliyor olmasıdır.
Stokes'a göre, bu, Apple Watch'u daha geniş bir gizlilik dinamiklerinin bir parçası haline getiriyor. CIA'de görev yaparken, günlük cihazların sürekli olarak kimlik, konum ve ilişkileri ortaya çıkarabilecek bilgiler ürettiği bir dünyayı tanımlamak için "her yerdeki teknolojik izleme" kavramını ortaya çıkarmaya yardımcı oldu.
O, sorunun yalnızca daha fazla veri toplanabilmesi değil, bu verileri anlamanın maliyetinin büyük ölçüde düşmesi olduğuna dikkat çekti.
Stokes, geçmişte bilgi toplamanın bir kişinin verilerini toplamak, düzenlemek ve analiz etmek için binlerce saatlik çalışma gerektirdiğini söyledi. AI, bu süreci giderek otomatikleştirerek, rastgele toplanmış verilerden kullanışlı bilgiler çıkarmayı daha ucuz ve kolay hale getiriyor.
Bu, baştan beri bu teknolojiye katılmayı seçmeyen kişiler için yeni bir maruziyet riski yaratacaktır—yakındaki takılabilir cihazlar tarafından yakalanan özel bir konuşma ya da sahip olmadıkları cihazlar tarafından toplanan bilgiler.
Stokes, "Geçmişte var olduğuna inandığımız küçük gizlilik alanlarına artık sahip değiliz." diyor.
Kurucu Aida Baradari, izinsiz olarak kaydedilmekten endişe eden kişilerin bir miktar kontrolü geri almasını sağlamayı amaçlıyor.
Bu şirket, yakındaki cihazları AI ile tarayan ve mikrofonlar konuşmaları işlerken konuşanların konuşmalarını bozan "Spectre I" adlı bir buz topu şeklindeki cihaz geliştirdi.
Baradari, daha fazla AI giyilebilir cihazın piyasaya girmesiyle birlikte, kullanıcıların bu cihazlarla nasıl etkileşime girdikleri konusunda daha büyük bir söz hakkına sahip olmaları gerektiğini düşünüyor.
O, “Teknolojiyi kullanırken temel değerlerimizi veya haklarımızı vazgeçmemeliyiz.” dedi.