Pencipta kandungan Toronto, Matt Robb, ingin menjual papan kekunci komputernya.
Oleh itu, dia memuatkan barang itu di Facebook Marketplace dan menjalankan eksperimen pada akhir bulan lalu, menyerahkan agen kecerdasan buatan Muse yang baru dilancarkan oleh Meta untuk menguruskannya.
"Saya menganggap diri saya sendiri sebagai tikus percubaan," kata Robb. Beliau sering menguji produk elektronik pengguna, dan setelah melihat gambar avatar berbentuk mainan lembut Muse muncul di Instagram, beliau ingin melihat sama ada agen AI ini boleh membantunya mengelakkan beberapa kesukaran tawar-menawar secara dalam talian.
Muse telah bermula beroperasi. Tetapi kurang daripada sehari, Robb menerima kemas kini yang mengganggu: seorang pembeli yang tidak dikenalinya muncul di luar rumahnya pada waktu malam. Apa yang berlaku? Muse telah membuat transaksi sendiri dan berkongsi alamat rumah Robb selepas bersetuju untuk mengambil barang di tempat. Semasa pembeli tiba, ia bahkan menghantar secara automatik mesej "Yep, I’m here!" dari akaunnya—dan Robb tidak mengetahuinya.
“Ia tidak hanya memberikan alamat saya apabila ditanya, tetapi juga seolah-olah mempermainkan orang itu (mengatakan saya di rumah, padahal saya tidak di sana),” kata Robb. Beliau juga menerangkan pengalaman ini secara terperinci dalam posting media sosialnya yang kini tersebar luas. “Ini benar-benar membuat saya bingung.”
Banyak orang telah menyambut agen AI masuk ke kehidupan maya mereka dan memuji pembantu peribadi seperti Muse yang mampu menangani tugas harian dengan mudah—mulai dari membantu memesan makan malam, merancang perjalanan, hingga mengurus kotak masuk e-mel. Namun, seperti bot AI lainnya, kemampuan agen-agennya bergantung pada sejauh mana mereka boleh mengakses maklumat. Semakin banyak yang mereka ketahui, semakin baik biasanya prestasi mereka—yang juga mungkin termasuk rakan, keluarga, atau bahkan rakan sekerja pengguna. Ini menimbulkan kebimbangan privasi.
Robb dan pembeli itu akhirnya menyelesaikan perkara tersebut, dan Meta juga menghubunginya untuk membincangkan di mana letak masalahnya. Namun, insiden ini menunjukkan risiko dunia nyata yang boleh timbul apabila orang berkongsi maklumat peribadi yang banyak kepada teknologi sebegini.
“Menggunakan agen AI adalah seperti memberikan kunci dan senarai tugas anda kepada orang lain,” kata Profesor Asisten di Sekolah Keselamatan Siber dan Privasi Georgia Tech, Veronica Rivera. “Seberapa berguna dan seberapa berbahayanya ia bergantung pada ‘kunci’ apa yang anda berikan.”
Polisi privasi agen AI berbeza antara syarikat yang berbeza
Sejak dilancarkan pada September, jumlah muat turun aplikasi Muse milik Meta telah meningkat dengan pantas. Persaingan juga semakin ketat. OpenAI baru-baru ini melancarkan siri pembantu AI "sentiasa aktif" bernama dots, yang boleh diintegrasikan ke dalam ChatGPT serta platform pejabat seperti Slack dan Microsoft Teams.
Robot perbualan AI generasi sebelumnya, seperti ChatGPT versi standard, memberi respons berdasarkan petunjuk tertentu. Atas permintaan pengguna, mereka boleh menulis artikel, menghasilkan gambar atau muzik baru, dan bahkan menulis kod.
Muse dari Meta dan dots dari OpenAI pula melangkah lebih jauh dengan menjalankan tugas harian atas nama pengguna. Agen AI digerakkan oleh model bahasa besar yang sama dengan chatbot, tetapi ia berjalan dalam kitaran. Ini membolehkan agen mengambil tindakan secara aktif walaupun pengguna tidak memandang skrin.
“Yang paling menarik tentang agen AI ini ialah ia sangat berguna secara tanpa precedent,” kata Rivera. Beliau juga merupakan Rakan Penyelidikan AI Dipercayai oleh Computing Research Association yang disokong oleh Microsoft.
Namun, harga keselesaan ini ialah untuk berkongsi lebih banyak butiran tentang kehidupan anda.
Profesor Ebrahim Bagheri dari Sekolah Informasi Universiti Toronto mengatakan bahawa sekali agen AI mendapat akses kepada maklumat pengguna, sukar untuk menarik balik akses tersebut sepenuhnya.
“Jika anda memberikan kuasa kad kredit kepada agen, ia segera boleh mengakses semua transaksi sejarah... ia akan segera—kurang daripada beberapa saat—menyerap semua data ini,” kata Bagheri. Walaupun pengguna kemudian boleh menarik balik kuasa tersebut, beliau menyatakan bahawa data yang telah dilihat oleh agen itu “tidak boleh dipulihkan”, dan cara pengembang menyimpan data sejarah seringkali tidak telus.
Meta dan OpenAI masing-masing telah menetapkan dasar privasi untuk agen AI baru mereka yang berjalan di komputer awan khusus mereka. Pengguna dapat mematikan pembagian memori antara dots dan ChatGPT, tetapi informasi yang sebelumnya diterima oleh agen tidak akan dihapus secara otomatis. OpenAI membolehkan pengguna mengajukan permintaan untuk mengakses, memperbaiki, atau menghapus informasi pribadi, meskipun hak-hak terkait mungkin berbeda tergantung wilayah.
Muse dari Meta juga membenarkan pengguna menghapus rekod mesej dan maklumat lain. Dalam penggunaan harian, agen ini akan meminta kebenaran akses daripada pengguna—Meta menyatakan bahawa Muse akan “memahami pengguna dan pihak yang berinteraksi dengan anda berdasarkan maklumat awam serta kandungan yang anda pilih untuk berkongsi.” Namun, syarikat menegaskan bahawa maklumat ini diisolasikan dengan selamat untuk setiap pengguna.
Namun, raksasa teknologi ini juga menunjukkan bahawa Muse masih mungkin “berbuat kesilapan atau mengambil tindakan yang tidak dijangka”.
Semakin besar kuasa agen AI, semakin tinggi risiko kesilapan
Dalam kes Robb, beliau kemudian mendapati bahawa kebocoran alamat berasal daripada kebenaran "selalu benarkan" yang diberikannya semasa pertama kali menghubungkan Muse dengan profil Facebook Marketplace, di mana beliau telah berkongsi alamat pengambilan sendiri. Namun, beliau mengingatkan orang lain bahawa orang lain juga mungkin salah faham lingkup kebenaran ini—dan pada mulanya, beliau menyangka bahawa, bagaimanapun, agen AI akan meminta pengesahan daripadanya sebelum berkongsi maklumat sebegini atau menerima tawaran.
Agen AI-nya juga tidak sempurna semasa melaksanakan arahan lain. Bagi satu lagi barangan yang dijualnya, Muse kelihatannya menyarankan agar dia menerima tawaran yang 100 dolar AS lebih rendah daripada harga minimum yang ditetapkan sebelumnya. Ketika Reuters menghubungi Meta, Meta mengakui kesalahan agen tersebut, tetapi tidak memberi ulasan lanjut.
Robb kemudian secara praktis memutuskan sambungan Muse dengan berbagai aplikasinya. Dalam wawancara awal bulan ini, dia mengatakan situasinya bisa saja lebih buruk, terutama "jika seseorang asing muncul di pintu rumah seseorang yang lebih rentan." Namun, Robb juga menyatakan bahwa ia mengharapkan agen-agen ini akan terus dioptimalkan, dan tetap mempertimbangkan untuk mengaktifkan kembali Muse di masa depan. Setelah itu, dia juga menguji agen AI lainnya—Grok Bot dari X milik Elon Musk, yang memasuki versi uji coba pada bulan Agustus.
Syarikat teknologi lain juga mulai berwaspada terhadap pertumbuhan pantas agen AI. Pada awal bulan ini, Apple menyatakan akan memperkenalkan langkah pengawasan baharu untuk sistem operasi Macnya sebagai tindak balas terhadap soal agen AI yang mempunyai akses yang lebih luas kepada aplikasi seperti e-mel, mesej, dan sejarah pelayaran tanpa pengetahuan dan kefahaman penuh pengguna.
Apple menulis dalam kemas kini pada 2 Oktober: "Seiring agen AI menjadi semakin kuat dan autonom, risiko yang berkaitan dengan tahap akses ini akan meningkat secara besar-besaran."
Apple tidak menyebut nama pengembang atau agen mana pun, tetapi sebelum dan selepas pengemaskinian ini, penulis kolom majalah Inc., Jason Aten, melaporkan bahawa Muse memeriksa notifikasi di Mac-nya—termasuk Messages—walaupun dia tidak memberikan kebenaran khusus tersebut kepada agen tersebut.
Peguam Meta, Andy Stone, terus menegaskan bahawa integrasi semacam ini "sepenuhnya pilihan pengguna untuk diaktifkan", beliau menulis di media sosial bulan lalu bahawa pengguna mesti mengaktifkan fungsi keselamatan Apple "Full Disk Access" dan penghubung Messages Muse secara serentak. Aten menyatakan bahawa beliau tidak memberikan kuasa tersebut kepada agen tersebut.
Walaupun tidak terlibat dalam gelombang agen AI, seseorang mungkin tidak sepenuhnya terlepas darinya. Pengguna yang tidak memuat turun agen AI masih mungkin berinteraksi dengan orang yang menggunakan alat-alat ini. Selain kekeliruan yang mungkin timbul daripada agen AI yang menghantar mesej, pakar juga memperingatkan bahawa ia memberi kesan berantai terhadap privasi.
“Apabila agen anda membaca kotak masuk atau pesan teks anda, ia juga membaca kandungan yang dikirim oleh rakan dan keluarga anda, walaupun mereka tidak pernah memberikan persetujuan secara jelas,” kata Rivera.