Sebuah organisasi hak digital Jerman baru-baru ini mengubah perjuangan mengenai privasi AI yang dapat dipakai menjadi masalah kriminal. HateAid, salah satu LSM anti-kekerasan digital paling terkemuka di Eropa, mengajukan pengaduan kriminal yang menargetkan para eksekutif di Meta Platforms Technologies Ireland Limited, serta merek kacamata Ray-Ban dan Oakley di bawah Luxottica Group, dan beberapa pengecer besar Jerman termasuk Fielmann dan MediaMarkt.
Keluhan, yang diajukan pada 12 Agustus ke Zentralstelle zur Bekämpfung der Internetkriminalität (ZIT), unit khusus kejahatan siber di kantor kejaksaan Frankfurt, berfokus pada produk yang tampak sederhana: Ray-Ban Meta Smart Glasses. Secara khusus, model Wayfarer Gen 2.
Tuduhan utama: kacamata yang memata-matai
Argumen HateAid sederhana. Kacamata pintar Ray-Ban Meta dapat merekam video dan audio orang-orang di sekitarnya, dan mereka dapat melakukannya tanpa orang-orang tersebut memiliki cara realistis untuk mengetahuinya. Menurut organisasi tersebut, hal itu melanggar Telekommunikation-Digitale-Dienste-Datenschutz-Gesetz (TDDDG), undang-undang federal Jerman yang mengatur privasi telekomunikasi dan perlindungan data layanan digital.
Ketentuan spesifik yang disebutkan adalah bagian 8 dan 27 TDDDG. Pelanggaran dapat dikenai denda, penyitaan keuntungan, dan hukuman penjara hingga dua tahun bagi para eksekutif yang bertanggung jawab.
Organisasi tersebut mendorong dua hasil konkret. Pertama, larangan total terhadap penjualan kacamata tersebut di Jerman. Kedua, penerapan fitur "Safety by Design" yang wajib, terutama indikator kamera yang terlihat dan tahan terhadap manipulasi yang akan membuat jelas bagi orang-orang di sekitar ketika rekaman sedang aktif.
Kacamata Meta memang memiliki indikator LED kecil yang menyala selama perekaman, tetapi para kritikus telah lama berargumen bahwa indikator ini terlalu halus untuk diperhatikan dalam kondisi dunia nyata, terutama di luar ruangan atau di tempat ramai.
Mengapa Jerman, dan mengapa sekarang
Kacamata pintar Ray-Ban Meta dilaporkan telah dikenakan oleh sekitar 41 juta orang Jerman, menjadikannya pemandangan umum dalam setting sosial sehari-hari. Keberadaan yang meluas inilah yang menjadi kekhawatiran HateAid. Ketika perangkat perekam menjadi tak dapat dibedakan dari kacamata biasa dan puluhan juta orang memakainya, konsep anonimitas publik mulai menghilang.
HateAid telah membangun reputasinya dengan memperjuangkan korban pelecehan daring, doxxing, dan penyalahgunaan berbasis gambar. Lembaga nirlaba yang berbasis di Berlin dan didirikan pada 2018 ini memandang kacamata yang dapat secara diam-diam merekam siapa pun di kafe, di kereta, atau di protes tidak hanya sebagai risiko privasi secara abstrak, tetapi sebagai alat yang dapat digunakan sebagai senjata.
Pengecer yang menjadi sasaran
Salah satu aspek penting dari keluhan tersebut adalah bahwa keluhan tersebut tidak berhenti di Meta. Dengan menyebut retailer seperti Fielmann, salah satu rantai optik terbesar di Jerman, dan MediaMarkt, retailer elektronik konsumen terbesar di Eropa, HateAid memperluas tanggung jawab sepanjang rantai distribusi.
Logika hukum di sini penting. Jika menjual perangkat yang memungkinkan pengawasan tersembunyi melanggar hukum Jerman, maka setiap perusahaan dalam rantai pasokan, dari produsen hingga rak, berpotensi berbagi tanggung jawab.
Apa artinya ini untuk AI yang dapat dikenakan di seluruh Eropa
Keluhan ini mengikuti serangkaian kekhawatiran sepanjang Eropa mengenai teknologi yang dapat dipakai, termasuk laporan investigasi dari Swedia mengenai implikasi privasi dari anotasi data oleh reviewer manusia, serta gugatan kelas berkelanjutan di Amerika Serikat terkait pelanggaran privasi. Kasus Jerman terutama membahas kekhawatiran mengenai hukum penjualan, bukan masalah pengelolaan data yang lebih luas.
Meta belum memberikan tanggapan publik terhadap keluhan tersebut.