Setelah OpenAI menambahkan plugin Pesan Apple ke versi desktop ChatGPT, pengguna kini dapat meminta bot obrolan di Mac untuk mencari pesan lama, merangkum obrolan grup, menyusun balasan, dan mengirim pesan secara langsung. Fitur ini memerlukan otorisasi manual dari pengguna yang menginstalnya, tetapi peserta lain dalam percakapan yang sama tidak akan menerima pemberitahuan, yang segera memicu perdebatan mengenai privasi dan keamanan.
Fokus pada akses setelah dekripsi
Beberapa ahli keamanan menunjukkan bahwa kontroversinya bukan pada ChatGPT yang membobol enkripsi end-to-end Apple, melainkan pada fakta bahwa setelah pesan sampai di perangkat penerima, kontennya sudah dapat dibaca oleh perangkat lunak lokal. Dengan kata lain, transmisi terenkripsi itu sendiri tidak rusak, tetapi begitu alat pihak ketiga memperoleh izin akses ke perangkat, konten yang sebelumnya hanya terlihat oleh kedua pihak dalam percakapan, berpotensi diambil dan dianalisis oleh sistem tambahan.
Ahli keamanan dan privasi Paul Walsh mengatakan kepada Fortune bahwa masalah paling mengkhawatirkan dari cara akses semacam ini adalah bahwa pemberi otorisasi tidak hanya membuka data mereka sendiri, tetapi juga memperlihatkan ucapan orang lain dari riwayat obrolan bertahun-tahun kepada sistem pihak ketiga. Bagi mereka yang mengandalkan komunikasi terenkripsi untuk menangani urusan sensitif, ini akan melemahkan harapan mereka terhadap kerahasiaan komunikasi.
OpenAI menyatakan bahwa default tetap disimpan di lokal
OpenAI menyatakan bahwa setelah plugin diaktifkan, ChatGPT tidak akan secara otomatis membuat indeks catatan informasi pengguna, juga tidak akan secara aktif membaca seluruh percakapan. Sistem hanya akan mengakses pesan terkait ketika pengguna secara eksplisit mengajukan permintaan yang berhubungan dengan konten informasi tersebut.
Perusahaan juga menyatakan bahwa versi desktop ChatGPT secara default menyimpan percakapan terkait di komputer lokal, dan konten dari Apple Messages tidak akan disinkronkan secara otomatis ke server OpenAI. Namun, jika pengguna memilih untuk menyimpan percakapan ChatGPT ke cloud, konten pesan tersebut akan tunduk pada aturan penyimpanan dan retensi yang sama, dan juga dapat masuk ke fitur memori cloud.
- Secara default, konten pesan disimpan secara lokal di Mac pengguna
- Sistem hanya akan mengakses konten informasi setelah pertanyaan yang jelas diajukan
- Jika percakapan disimpan di cloud, terkait konten juga akan masuk ke cloud.
Perusahaan keamanan khawatir tentang perluasan wewenang yang terus berlanjut
Chief Technology Officer Lookout, Dave Richardson, mengatakan bahwa menyebut fitur ini langsung sebagai "perangkat lunak mata-mata" mungkin terlalu berlebihan, karena fitur ini dinonaktifkan secara default dan memerlukan otorisasi eksplisit dari pengguna. Namun, ia juga menilai bahwa ini tetap membawa risiko nyata terhadap saluran komunikasi yang sebelumnya dianggap aman.
Dia menunjukkan bahwa enkripsi end-to-end melindungi proses pengiriman pesan antar perangkat, sehingga platform atau penyedia jaringan tidak dapat membaca konten selama transmisi, tetapi setelah pesan sampai di perangkat tujuan, perangkat itu sendiri tetap dapat mengaksesnya. Jika pengguna kemudian membuka konten ini kepada layanan pihak ketiga seperti OpenAI atau Anthropic, cakupan perlindungan sebenarnya dari enkripsi end-to-end akan berkurang.
Perusahaan privasi Proton juga merilis analisis pada hari Selasa yang menyatakan bahwa risiko semacam ini dapat menyebar ke orang-orang yang tidak pernah menggunakan ChatGPT, karena pesan yang mereka kirim juga dapat diakses selama pihak lain dalam percakapan mengaktifkan plugin. Proton juga menyoroti bahwa izin "akses penuh ke disk" yang diperlukan selama proses pemasangan merupakan bagian dari pertimbangan keamanan yang lebih luas.
AI sedang memasuki lebih banyak aplikasi sensitif
Kontroversi ini juga mencerminkan bahwa alat AI sedang berpindah dari kotak obrolan ke izin perangkat yang lebih mendalam. Penelitian yang disediakan Lookout kepada Fortune menunjukkan bahwa selama setahun terakhir, izin data dan kemampuan berisiko tinggi yang diminta oleh aplikasi terkait AI terus meningkat, dan tren terkait di platform iOS juga memperluas cakupannya.
OpenAI menjelaskan bahwa plugin ini bukan antarmuka iMessage baru yang dibuat khusus oleh Apple untuk ChatGPT, tetapi memanfaatkan kemampuan yang sudah ada di macOS. Saat pemasangan, pengguna perlu menyetujui izin seperti AppleScript, aksesibilitas, dan akses penuh ke disk.
Seiring dengan meningkatnya kemampuan agen AI dalam mengendalikan perangkat, kontroversi tidak lagi hanya berfokus pada “apakah pengguna bersedia memberikan otorisasi”, tetapi juga apakah peserta lain dalam percakapan tersebut mengetahui hal ini, serta apakah komunikasi pribadi yang diambil, diringkas, dan disimpan secara jangka panjang oleh AI akan menciptakan saluran data baru.