Chris Thomas hampir membekali dirinya sepenuhnya dengan perangkat AI.
Thomas, yang berusia 43 tahun, memakai kacamata Meta dengan kamera, liontin catatan Fieldy, dan gelang yang dirilis oleh Amazon Bee, semua perangkat ini merekam kehidupan sehari-harinya. Pengusaha dan streamer dari Pittsburgh ini mengatakan bahwa perangkat-perangkat ini membantunya tetap teratur, membayar tagihan tepat waktu, dan mengatur pengingat.
Thomas dalam wawancara mengatakan, "Saya sangat mudah lupa. Hidup saya terlalu kacau, jadi tidak perlu selalu berpikir untuk mengingat sesuatu, rasanya luar biasa."
Tetapi tidak semua orang menerima gaya hidupnya. Baru-baru ini minggu ini, ketika dia berada di sebuah bar lokal, seorang saksi melihat kacamata Meta-nya.
Thomas berkata: "Dia langsung mengatakan, 'Saya tidak merasa enak.' Saya tidak akan mematikannya, saya akan melepasnya langsung, karena orang-orang tidak benar-benar percaya itu sudah dimatikan."
Seiring semakin banyak perusahaan teknologi yang meluncurkan perangkat dan fitur yang didorong oleh AI dan selalu mendengarkan, pengguna semakin sering menghadapi interaksi semacam ini. Produk-produk ini dipromosikan sebagai alat yang berguna untuk mentranskripsikan rapat, merekam percakapan, menetapkan pengingat, dan memberikan rekomendasi personalisasi.
Contoh terbaru perangkat semacam ini diluncurkan pada hari Kamis: Amazon meluncurkan perangkat wearable Bee Frontier dan Bee Eclipse, sebuah perangkat berbentuk kartu yang dapat terhubung ke smartphone. Kedua produk ini dirancang untuk merekam, mentranskripsi, dan menganalisis hari pengguna.
Apple Watch Series 12 terbaru yang dirilis Apple pada September akan dilengkapi Siri Recap, yang akan membuat catatan secara "lingkungan" sepanjang hari dan menghasilkan ringkasan percakapan. Fitur lain bernama Live Rewind memungkinkan pengguna untuk mereview 15 detik percakapan melalui transkripsi teks.
Kacamata pintar populer dari Meta dapat mengambil foto, merekam video, dan merekam catatan suara atau pengingat. Perusahaan rintisan seperti Plaud dan Pocket juga mengembangkan perangkat catatan seukuran kartu, sementara Friend meluncurkan kalung AI.
Perangkat-perangkat ini menimbulkan kekhawatiran di kalangan luar: mereka dapat merusak privasi dengan merekam secara diam-diam tanpa persetujuan saksi, serta mengumpulkan data sensitif yang dapat diakses oleh pihak lain.
Amazon, Google, dan produsen speaker pintar aktif suara lainnya juga menghadapi kekhawatiran privasi serupa saat produk mereka pertama kali diluncurkan, dengan beberapa kasus berakhir pada gugatan dan denda regulasi.
Namun, perangkat AI generasi baru ini juga menguji batas-batas hukum privasi.
Berbeda dengan speaker pintar generasi sebelumnya yang diaktifkan oleh kata pemicu dan terkadang menyimpan rekaman atau mengirim audio ke cloud, beberapa produk ini dapat mendengarkan secara terus-menerus, menafsirkan suara, dan mengekstrak maknanya tanpa menyimpan audio dasarnya. Kemampuan ini menimbulkan pertanyaan yang hingga kini belum diuji secara memadai: apakah pemrosesan semacam ini sendiri dapat dianggap sebagai penyadapan ilegal.
Karen Panetta, Dekan Pendidikan Pascasarjana di Sekolah Teknik Tufts University dan anggota IEEE, mengatakan, “Sikap saya terhadap teknologi baru semacam ini selalu adalah merangkul dengan hati-hati.”
Dia menambahkan, "Jika saya membiarkan diri saya direkam, atau membiarkan semua yang saya lihat direkam, itu tidak berarti semua orang di sekitar saya telah setuju."
Zona abu-abu
Apple dan Amazon tampaknya telah menghindari beberapa kontroversi privasi yang pernah muncul pada asisten suara awal.
Apple menyatakan bahwa fitur ini tidak akan menyimpan audio, tidak mengirim rekaman ke servernya, dan tidak melibatkan tinjauan manusia. Amazon menyatakan bahwa mereka tidak akan menyimpan audio dari perangkat Bee, dan percakapan akan diproses dalam lingkungan aman, "di mana siapa pun, termasuk Amazon, tidak dapat mengakses data Anda."
Tetapi ini belum tentu menyelesaikan masalah hukum.
Hukum penyadapan dan perekaman di banyak negara bagian berfokus pada apakah komunikasi pribadi disadap atau kontennya diakses, bukan hanya apakah rekaman audio dalam arti tradisional terbentuk.
Colin Zick, pengacara privasi dan keamanan data di Foley Hoag, menyatakan bahwa Apple tampaknya telah belajar dari gelombang pertama gugatan terkait asisten suara. Namun, teknologi baru menimbulkan pertanyaan yang belum pernah perlu dijawab oleh kasus-kasus sebelumnya: jika sistem terus-menerus mendengarkan, menafsirkan suara, dan mengubahnya menjadi ringkasan, bahkan tanpa menyimpan audio dasarnya, apakah ini masih dapat dianggap sebagai "intersepsi"?
Hukum di beberapa negara bagian mendefinisikan "penyadapan" secara luas. Sebagai contoh, hukum Massachusetts mendefinisikan perangkat penyadap sebagai perangkat yang mampu "mentransmisikan, menerima, memperkuat, atau merekam" komunikasi, dan "konten" komunikasi juga dapat mencakup substansi dan maknanya.
Menurut Zick, sebuah perangkat yang terus-menerus menerima suara dan menghasilkan ringkasan tertulis, bahkan tanpa menyimpan file audio, mungkin termasuk dalam cakupan pernyataan ini.
Sementara di beberapa negara bagian, risiko hukum yang lebih besar mungkin tidak berada pada Apple, Amazon, atau produsen perangkat AI lainnya, tetapi pada orang yang memakai perangkat tersebut.
Zick mengatakan: "Orang yang tidak memakai perangkat tidak membeli jam tangan ini, tidak menyetujui syarat-syarat Apple, dan tidak memilih agar percakapan mereka diringkas di aplikasi."
Daniel Pi, seorang dosen di Franklin Pierce Law School, Universitas New Hampshire, menyatakan bahwa ia percaya cakupan peraturan New Hampshire cukup luas sehingga fitur cerdas audio baru dari Apple Watch akan dianggap sebagai penyadapan. Hukum tersebut mencakup tidak hanya perekaman, tetapi juga "pendengaran atau pengambilan lainnya" terhadap konten komunikasi.
Ini dapat menciptakan situasi yang tidak biasa: konsumen biasa mengaktifkan fitur bawaan perangkat utama, dan saat digunakan dalam percakapan pribadi, setidaknya secara teknis, dapat melanggar hukum negara bagian karena tidak mendapatkan persetujuan dari semua pihak.
Pi mengatakan bahwa pengguna New Hampshire mungkin menghadapi tanggung jawab perdata atau pidana karena hal ini, namun ia menekankan bahwa risiko benar-benar dituntut jauh lebih rendah. Mengetahui apakah seseorang telah mengaktifkan fitur ini dari awal mungkin tidak mudah, dan ia menyatakan bahwa ia akan terkejut jika jaksa mengajukan kasus semacam ini hanya karena pelanggaran hukum semata tanpa ada korban.
Masalah hukum ini juga berbeda dari kontroversi yang timbul dari speaker pintar dan asisten suara sebelumnya. Kasus-kasus tersebut sering berfokus pada peluncuran tidak sengaja perangkat atau penangkapan suara yang tidak dimaksudkan sebagai perintah. Sementara fitur di sini memang dirancang untuk mendapatkan dan menafsirkan konten percakapan, dan pengguna secara aktif memilih untuk bergabung.
Pi mengatakan ini mengubah cara analisis, dan juga bisa memindahkan tanggung jawab dari perusahaan teknologi ke pemakainya.
Saksi mata
Kekhawatiran privasi yang lebih luas tidak hanya terkait siapa yang akan bertanggung jawab secara hukum.
Michael Stokes, Wakil Presiden Senior Teknologi Baru di Veilant dan mantan petugas CIA, mengatakan bahwa perubahan yang lebih besar adalah orang-orang mungkin terlibat dalam pengawasan yang didorong oleh AI tanpa memiliki atau bahkan menyadari perangkat yang sedang mereka interaksikan.
Stokes mengatakan: "Yang benar-benar saya khawatirkan adalah masalah penonton—Anda mungkin dipantau tanpa memiliki teknologi ini."
Dia menunjukkan bahwa semakin banyak kamera, mikrofon, dan sensor yang tertanam dalam perangkat konsumen, mulai dari kacamata pintar hingga jam tangan hingga perekam AI. Perbedaannya adalah, kini AI dapat dengan cepat menjelaskan konten yang dikumpulkan oleh perangkat-perangkat ini dan mengekstrak makna dari informasi yang jauh lebih banyak daripada teknologi konsumen awal.
Menurut Stokes, hal ini menjadikan Apple Watch bagian dari perubahan lebih besar dalam lanskap privasi. Selama masa jabatannya di CIA, ia membantu mengembangkan konsep "pengawasan teknologi yang tak terhindarkan" untuk menggambarkan dunia di mana perangkat sehari-hari terus-menerus menghasilkan informasi yang dapat mengungkap identitas, lokasi, dan hubungan.
Dia menyatakan bahwa masalahnya bukan hanya tentang dapat mengumpulkan lebih banyak data, tetapi juga tentang biaya memahami data tersebut telah turun drastis.
Stokes mengatakan bahwa dahulu pengumpulan intelijen mungkin memerlukan ribuan jam kerja untuk mengumpulkan, mengatur, dan menganalisis informasi seseorang. AI semakin banyak mengotomatisasi proses ini, sehingga mengekstrak informasi berguna dari data yang mungkin hanya terkumpul secara kebetulan menjadi lebih murah dan lebih mudah.
Ini akan menimbulkan risiko eksposur baru bagi mereka yang sejak awal tidak memilih untuk bergabung dengan teknologi ini—baik itu percakapan pribadi yang ditangkap oleh perangkat wearable di sekitar, atau informasi yang dikumpulkan oleh perangkat yang tidak mereka miliki.
Stokes mengatakan: "Kami tidak lagi memiliki ruang privasi kecil yang dulu kita anggap ada."
Pendiri startup Deveillance, Aida Baradari, berusaha mengembalikan sebagian kendali kepada mereka yang khawatir direkam tanpa persetujuan.
Perusahaan ini mengembangkan perangkat berbentuk bola hoki bernama Spectre I, yang memanfaatkan AI untuk memindai perangkat terdekat dan mengirimkan "sinyal adversarial" untuk mengganggu ucapan pihak lain sebelum mikrofon memproses suara.
Baradari mengatakan bahwa seiring semakin banyak perangkat wearable AI memasuki pasar, ia merasa pengguna seharusnya memiliki suara yang lebih besar dalam bagaimana mereka berinteraksi dengan perangkat-perangkat ini.
Dia berkata: "Kita perlu dapat menggunakan teknologi tanpa melepaskan nilai atau hak inti kita."