Presiden Signal, Meredith Whittaker, dalam temu bual dengan Bloomberg, berbicara tentang chatbot seperti ChatGPT dan Claude, menyatakan bahawa pengguna tidak seharusnya memandang sistem seperti ini sebagai "rakan" atau objek komunikasi yang memiliki kesedaran subjektif. Dia menekankan isu privasi dan keizinan, berpendapat bahawa risiko alat-alat ini akan membesar dengan cepat apabila terintegrasi mendalam ke dalam perkhidmatan peribadi.
Whittaker membincangkan sempadan penggunaan AI
Whittaker menyatakan bahawa dia sendiri hanya akan menggunakan alat AI dalam beberapa skenario tertentu, seperti menyusun format dokumen, tetapi tidak akan menyerahkan proses bertanya, berfikir, dan menulis kepada model. Dia menekankan bahawa dia tidak ingin sistem yang menghasilkan jawapan berdasarkan maklumat sedia ada menggantikan proses berfikir yang sepatutnya dilakukan secara peribadi.
Kekhawatiran terhadap akses ke izin sensitif antar aplikasi
Dia juga menanggapi cadangan sebelumnya daripada Mustafa Suleyman, ketua perniagaan AI Microsoft, bahawa pengguna boleh membenarkan Microsoft Copilot melakukan pembelian Krismas atas nama mereka. Whittaker berpendapat bahawa untuk mewujudkan senario ini, sistem perlu membaca maklumat peribadi yang banyak dan menjalankan tindakan di antara pelbagai perkhidmatan.
- Maklumat kad kredit dan pembayaran
- Riwayat akses peramban
- Kandungan dan kenalan Signal
Selain maklumat di atas, sistem sebegini juga mungkin mengakses alamat rumah, jadual kalender, dan menghantar mesej atas nama pengguna kepada keluarga dan rakan-rakan. Dia berpendapat, ini bukan lagi penggunaan alat tunggal secara bantuan, tetapi akses luas kepada pelbagai aplikasi dan perkhidmatan.
Signal menganggap akses semacam ini sebagai risiko backdoor
Whittaker juga menyatakan bahawa jika kemampuan serupa diperkenalkan ke dalam produk komunikasi terenkripsi seperti Signal, dari segi keselamatan produk, ia hampir setara dengan menetapkan "backdoor". Dia menekankan bahawa semakin rapat fungsi pembantu AI dengan tindakan pengganti dan pelaksanaan, semakin penting pengguna memperhatikan kuasa apa yang sebenarnya diberikan kepadanya.
Pernyataan ini juga mencerminkan perdebatan berterusan dalam persaingan pembantu AI: apabila produk bergerak dari menjawab soalan kepada menggantikan pengguna dalam menangani urusan, konflik antara kemudahan dan perlindungan privasi menjadi lebih langsung.