Meredith Whittaker, CEO Signal, dalam wawancara dengan Bloomberg membahas chatbot seperti ChatGPT dan Claude, menyatakan bahwa pengguna sebaiknya tidak memperlakukan sistem semacam ini sebagai “teman” atau objek komunikasi yang memiliki kesadaran subjektif. Dia menekankan pada masalah privasi dan otoritas, berpendapat bahwa risiko alat-alat ini akan segera membesar jika terintegrasi mendalam ke dalam layanan pribadi.
Whittaker membahas batasan penggunaan AI
Whittaker menyatakan bahwa dirinya hanya akan menggunakan alat AI dalam beberapa skenario tertentu, misalnya untuk merapikan format dokumen, tetapi tidak menyerahkan proses pertanyaan, pemikiran, dan penulisan kepada model. Ia mengatakan bahwa dirinya tidak ingin sistem yang menghasilkan jawaban berdasarkan informasi yang sudah ada menggantikan proses berpikir yang seharusnya dilakukan secara pribadi.
Khawatir tentang pengambilan izin sensitif lintas aplikasi
Dia juga menanggapi gagasan sebelumnya yang diajukan oleh Mustafa Suleyman, pemimpin bisnis AI Microsoft, yaitu agar pengguna dapat meminta Microsoft Copilot untuk melakukan pembelian Natal atas nama mereka. Whittaker berpendapat bahwa untuk mewujudkan skenario semacam ini, sistem perlu membaca sejumlah besar informasi pribadi dan melakukan operasi di berbagai layanan.
- Informasi kartu kredit dan pembayaran
- Riwayat penelusuran browser
- Konten dan kontak Signal
Selain informasi di atas, sistem semacam ini juga dapat mengakses alamat rumah, jadwal kalender, dan mengirim pesan atas nama pengguna kepada keluarga dan teman. Ia berpendapat, ini bukan lagi penggunaan alat tunggal secara bantuan, melainkan akses luas terhadap berbagai aplikasi dan layanan.
Signal menganggap akses semacam ini sebagai risiko backdoor
Whittaker lebih lanjut menyatakan bahwa jika kemampuan serupa diperkenalkan ke produk komunikasi terenkripsi seperti Signal, dari sudut pandang keamanan produk, hampir setara dengan memasang "backdoor". Ia menekankan bahwa semakin dekat fitur asisten AI dengan tindakan pengganti dan eksekusi agen, semakin besar kebutuhan pengguna untuk memperhatikan izin apa saja yang sebenarnya diberikan kepadanya.
Pernyataan ini juga mencerminkan perdebatan berkelanjutan dalam persaingan asisten AI: ketika produk berpindah dari menjawab pertanyaan menjadi menggantikan pengguna dalam menangani tugas, konflik antara kemudahan dan perlindungan privasi menjadi lebih langsung.