Pembuat konten Toronto, Matt Robb, ingin menjual keyboard komputernya.
Jadi, ia memposting barang di Facebook Marketplace dan pada akhir bulan lalu melakukan eksperimen, menyerahkan agen kecerdasan buatan baru Meta, Muse, untuk menanganinya.
"Saya memperlakukan diri saya sendiri seperti seekor tikus percobaan," kata Robb. Ia sering menguji produk elektronik konsumen, dan setelah melihat avatar berbentuk mainan empuk Muse muncul di Instagram, ia ingin melihat apakah agen AI ini bisa membantunya menghindari repotnya tawar-menawar online.
Muse mulai beroperasi. Namun kurang dari sehari, Robb menerima pembaruan yang mengkhawatirkan: seorang pembeli yang tidak ia kenal muncul di depan rumahnya tengah malam. Ada apa ini? Muse secara mandiri menyelesaikan transaksi dan membagikan alamat rumah Robb setelah menyetujui pengambilan langsung. Saat pembeli tiba, bahkan Muse secara otomatis mengirim pesan "Yep, I’m here!" dari akunnya—dan Robb sama sekali tidak mengetahuinya.
“Itu tidak hanya memberikan alamat saya ketika mereka bertanya, tetapi juga seolah-olah mengejek mereka (mengatakan saya di rumah, padahal saya tidak di rumah),” kata Robb. Ia juga mendetailkan pengalaman ini dalam posting media sosialnya yang kini tersebar luas. “Ini benar-benar membuat saya bingung.”
Banyak orang telah menyambut agen AI masuk ke kehidupan digital mereka dan memuji asisten personal seperti Muse yang dapat dengan mudah menangani tugas sehari-hari—mulai dari membantu memesan makan malam, merencanakan perjalanan, hingga mengatur kotak masuk email. Namun, seperti agen AI lainnya, kemampuan agen-agen ini bergantung pada seberapa banyak informasi yang dapat diaksesnya. Semakin banyak yang mereka ketahui, biasanya semakin baik performanya—yang juga dapat mencakup teman, keluarga, bahkan rekan kerja pengguna. Hal ini menimbulkan kekhawatiran privasi.
Robb dan pembeli tersebut akhirnya mencapai kesepakatan, dan Meta juga menghubunginya untuk membahas di mana sebenarnya masalahnya. Namun, insiden ini menunjukkan risiko nyata yang dapat muncul ketika orang berbagi banyak informasi pribadi kepada teknologi semacam ini.
“Menggunakan agen AI seperti menyerahkan kunci dan daftar tugas Anda kepada orang lain,” kata Veronica Rivera, asisten profesor di Sekolah Keamanan Siber dan Privasi Georgia Tech. “Seberapa berguna dan seberapa berbahayanya mereka tergantung pada ‘kunci’ apa yang Anda serahkan.”
Kebijakan privasi agen AI berbeda-beda antar perusahaan
Sejak diluncurkan pada September, unduhan aplikasi Muse dari Meta melonjak pesat. Persaingan juga semakin ketat. OpenAI baru-baru ini meluncurkan serangkaian asisten AI "selalu aktif" bernama dots, yang dapat diintegrasikan ke dalam ChatGPT serta platform kantor seperti Slack dan Microsoft Teams.
Chatbot AI generatif generasi sebelumnya, seperti ChatGPT versi standar, merespons berdasarkan petunjuk tertentu. Atas permintaan pengguna, mereka dapat menulis artikel, menghasilkan gambar atau musik baru, bahkan menulis kode.
Muse dari Meta dan dots dari OpenAI melangkah lebih jauh dengan menjalankan tugas sehari-hari atas nama pengguna. Agen AI didorong oleh model bahasa besar yang sama dengan chatbot, tetapi mereka berjalan dalam siklus. Ini memungkinkan agen untuk bertindak secara aktif bahkan ketika pengguna tidak menatap layar.
“Yang paling menarik dari agen AI ini adalah betapa bergunanya mereka secara belum pernah terjadi sebelumnya,” kata Rivera. Ia juga merupakan Fellow Riset AI yang Dapat Dipercaya dari Computing Research Association yang didanai Microsoft.
Namun, harga kenyamanan ini adalah Anda harus berbagi lebih banyak detail tentang kehidupan Anda.
Profesor dari Sekolah Informasi Universitas Toronto, Ebrahim Bagheri, mengatakan bahwa sekali agen AI memperoleh informasi pengguna, sangat sulit untuk menarik kembali akses sepenuhnya.
“Jika Anda memberikan otorisasi kartu kredit kepada agen, ia langsung dapat mengakses semua transaksi historis... ia akan segera—kurang dari beberapa detik—menyerap semua data ini,” kata Bagheri. Meskipun pengguna nantinya dapat mencabut otorisasi tersebut, ia menyatakan bahwa data yang telah dilihat agen “tidak dapat ditarik kembali”, dan cara pengembang menyimpan data historis seringkali tidak transparan.
Meta dan OpenAI masing-masing telah membuat kebijakan privasi untuk agen AI baru mereka yang berjalan di komputer cloud khusus mereka. Pengguna dapat menonaktifkan berbagi memori antara dots dan ChatGPT, tetapi informasi yang sebelumnya diterima oleh agen tidak akan dihapus secara otomatis. OpenAI memungkinkan pengguna untuk mengajukan permintaan akses, koreksi, atau penghapusan informasi pribadi, meskipun hak-hak terkait dapat bervariasi tergantung wilayah pengguna.
Muse dari Meta juga memungkinkan pengguna menghapus riwayat pesan dan informasi lainnya. Dalam penggunaan sehari-hari, agen ini akan meminta izin akses dari pengguna—Meta menyatakan bahwa Muse akan "memahami pengguna dan pihak yang berinteraksi dengannya berdasarkan informasi publik serta konten yang Anda pilih untuk dibagikan." Namun, perusahaan menyatakan bahwa informasi ini diisolasi secara aman untuk setiap pengguna.
Namun, raksasa teknologi ini juga menunjukkan bahwa Muse masih mungkin "salah atau mengambil tindakan yang tidak terduga".
Semakin besar otoritas agen AI, semakin tinggi risiko kesalahan
Dalam kasus Robb, ia kemudian menemukan bahwa kebocoran alamat berasal dari izin "selalu izinkan" yang ia berikan saat pertama kali menghubungkan Muse ke profil Facebook Marketplace, di mana ia sudah membagikan alamat penjemputannya. Namun ia mengingatkan orang lain bahwa orang lain juga mungkin salah memahami cakupan izin ini—dan awalnya ia mengira, bagaimanapun juga, agen AI akan meminta konfirmasi terlebih dahulu sebelum membagikan informasi semacam ini atau menerima penawaran.
Agen AI-nya juga tidak sempurna saat menjalankan perintah lain. Untuk barang lain yang dijualnya, Muse tampaknya menyarankan agar ia menerima tawaran yang lebih rendah $100 dari harga minimum yang sebelumnya ditetapkan. Ketika Reuters menghubungi Meta, Meta mengakui kesalahan agen tersebut, tetapi tidak memberikan komentar lebih lanjut.
Robb kemudian pada dasarnya memutuskan koneksi Muse dari berbagai aplikasinya. Dalam wawancara awal bulan ini, ia mengatakan situasinya bisa saja lebih buruk, terutama "jika seseorang yang tidak dikenal muncul di depan rumah seseorang yang lebih rentan." Namun, Robb juga menyatakan bahwa ia memperkirakan agen-agen ini akan terus dioptimalkan, dan ia tetap mempertimbangkan untuk mengaktifkan kembali Muse di masa depan. Setelah itu, ia juga menguji agen AI lainnya—Grok Bot dari X milik Elon Musk, yang memasuki versi beta pada Agustus.
Perusahaan teknologi lain juga mulai waspada terhadap ekspansi cepat agen AI. Awal bulan ini, Apple menyatakan akan memperkenalkan langkah kontrol baru untuk sistem operasi Macnya sebagai respons terhadap masalah akses luas agen AI ke aplikasi seperti email, pesan, dan bahkan riwayat penelusuran tanpa pengetahuan dan pemahaman penuh pengguna.
Apple menulis dalam pembaruan pada 2 Oktober: "Seiring agen AI menjadi semakin kuat dan otonom, risiko yang terkait dengan tingkat akses ini akan meningkat secara signifikan."
Apple tidak menyebutkan pengembang atau agen tertentu, tetapi sebelum dan setelah pembaruan ini, jurnalis kolom Inc., Jason Aten, melaporkan bahwa Muse melihat pemberitahuan di Mac-nya—termasuk Messages—meskipun ia tidak memberikan izin spesifik tersebut kepada agen tersebut.
Perwakilan Meta, Andy Stone, terus menegaskan bahwa integrasi semacam ini "sepenuhnya bersifat sukarela dan dipilih oleh pengguna", sebagaimana ia tulis di media sosial bulan lalu bahwa pengguna harus mengaktifkan fitur keamanan Apple "Full Disk Access" dan konektor Messages Muse secara bersamaan. Aten menyatakan bahwa ia tidak memberikan izin tersebut kepada agen tersebut.
Bahkan mereka yang tidak bergabung dalam tren agen AI mungkin tidak bisa benar-benar berada di luar pengaruhnya. Konsumen yang tidak mengunduh agen AI masih mungkin berinteraksi dengan orang-orang yang menggunakan alat-alat ini. Selain kekacauan yang mungkin ditimbulkan oleh pesan yang dikirim oleh agen AI, para ahli memperingatkan bahwa hal ini akan memiliki dampak berantai terhadap privasi.
“Ketika agen Anda membaca kotak masuk atau pesan SMS Anda, ia juga membaca konten yang dikirim oleh teman dan keluarga Anda, meskipun mereka tidak pernah secara eksplisit menyetujui hal ini,” kata Rivera.