Setelah OpenAI menambahkan plugin Pesan Apple ke versi desktop ChatGPT, pengguna kini boleh meminta bot perbualan untuk mencari mesej lama, meringkaskan perbualan kumpulan, menyusun balasan, dan menghantar mesej terus dari Mac. Fungsi ini memerlukan pengguna untuk memberikan kebenaran secara manual, tetapi peserta lain dalam perbualan yang sama tidak akan menerima notifikasi, yang dengan cepat menimbulkan kontroversi mengenai privasi dan keselamatan.
Fokus pada akses selepas dekripsi
Beberapa pakar keselamatan menunjukkan bahawa kontroversi bukanlah tentang ChatGPT memecahkan enkripsi end-to-end Apple, tetapi tentang fakta bahawa selepas mesej sampai ke peranti penerima, kandungannya sudah boleh dibaca oleh perisian tempatan. Dengan kata lain, penghantaran terenkripsi itu sendiri tidak rosak, tetapi sekiranya alat pihak ketiga mendapat kebenaran peranti, kandungan yang sebelumnya hanya kelihatan antara dua pihak dalam perbualan mungkin boleh diambil dan dianalisis oleh sistem tambahan.
Ahli keselamatan dan privasi Paul Walsh memberitahu Fortune bahawa kebimbangan terbesar dengan cara akses ini ialah pemberi kuasa tidak hanya membuka data mereka sendiri, tetapi juga mendedahkan ucapan orang lain dari catatan perbualan bertahun-tahun kepada sistem pihak ketiga. Bagi mereka yang bergantung pada komunikasi tersulit untuk menangani urusan sensitif, ini akan melemahkan harapan mereka terhadap komunikasi peribadi.
OpenAI menyatakan bahawa ia akan kekal secara lalai di tempat
OpenAI menyatakan bahawa selepas mengaktifkan plugin, ChatGPT tidak akan secara automatik mengindeks rekod maklumat pengguna atau membaca seluruh perbualan secara aktif. Sistem hanya akan mengakses mesej yang berkaitan apabila pengguna secara jelas membuat permintaan yang berkaitan dengan kandungan maklumat tersebut.
Syarikat juga menyatakan bahawa versi desktop ChatGPT secara lalai akan menyimpan perbualan berkaitan di komputer tempatan, dan kandungan daripada Apple Messages tidak akan disegerakkan secara automatik ke pelayan OpenAI. Namun, jika pengguna memilih untuk menyimpan perbualan ChatGPT ke awan, kandungan mesej tersebut akan tunduk kepada peraturan penyimpanan dan pengekalan yang sama, dan juga mungkin dimasukkan ke dalam fungsi memori awan.
- Secara lalai, kandungan mesej disimpan secara tempatan pada Mac pengguna
- Sistem hanya akan mengakses kandungan maklumat selepas soalan yang jelas diajukan.
- Jika perbualan disimpan di awan, kandungan berkaitan juga akan masuk ke awan.
Syarikat keselamatan bimbang kuasa terus membesar
Ketua Teknologi syarikat keselamatan mudah alih, Lookout, Dave Richardson, berkata, memanggil ciri ini secara langsung sebagai “perisian mata-mata” mungkin terlalu berat, kerana ia dimatikan secara lalai dan memerlukan kebenaran jelas daripada pengguna. Namun, beliau juga berpendapat bahawa ia masih membawa risiko yang ketara kepada saluran komunikasi yang sebelumnya dianggap selamat.
Dia menunjukkan bahawa enkripsi end-to-end melindungi proses penghantaran mesej antara peranti, di mana platform atau penyedia rangkaian tidak dapat membaca kandungan semasa penghantaran, tetapi selepas mesej sampai ke peranti akhir, peranti itu masih boleh mengaksesnya. Jika pengguna membuka kandungan ini kepada perkhidmatan pihak ketiga seperti OpenAI atau Anthropic, lingkungan perlindungan sebenar enkripsi end-to-end akan berkurang.
Perusahaan privasi Proton juga menerbitkan analisis pada hari Selasa yang menyatakan bahawa risiko semacam ini boleh meluas kepada orang yang tidak pernah menggunakan ChatGPT, kerana mesej yang mereka hantar juga boleh diakses sekiranya pihak lawak dalam perbualan tersebut mengaktifkan plugin. Proton juga menyebut bahawa kebenaran “akses penuh ke cakera” yang diperlukan semasa proses pemasangan merupakan pertimbangan keselamatan yang lebih luas.
AI sedang memasuki lebih banyak aplikasi sensitif
Perkara kontroversi ini juga menunjukkan bahawa alat AI sedang bergerak dari kotak perbualan ke arah keizinan peranti yang lebih mendalam. Penyelidikan yang disediakan oleh Lookout kepada Fortune menunjukkan bahawa dalam setahun terakhir, keizinan data dan kemampuan berisiko tinggi yang diminta oleh aplikasi berkaitan AI terus meningkat, dan tren yang berkaitan di platform iOS juga semakin meluas.
OpenAI menjelaskan bahawa plugin ini bukan antaramuka iMessage baharu yang dibina khas oleh Apple untuk ChatGPT, tetapi menggunakan kemampuan semasa macOS. Semasa pemasangan, pengguna perlu mengesahkan kebenaran seperti AppleScript, aksesibilitas, dan akses penuh ke cakera.
Sebagai agen AI memperoleh lebih banyak keupayaan mengawal peranti, perdebatan tidak lagi hanya berpusat pada “apakah pengguna bersedia memberikan kebenaran”, tetapi juga sama ada peserta lain dalam perbualan tersebut mengetahui, dan sama ada komunikasi peribadi yang diambil, diringkaskan, dan disimpan secara jangka panjang oleh AI akan mencipta saluran data baharu.