Ang content creator mula sa Toronto, Matt Robb, ay gustong magbenta ng kanyang keyboard ng computer.
Kaya nag-post siya ng produkto sa Facebook Marketplace at noong huling bahagi ng nakaraang buwan, isinagawa niya ang isang eksperimento kung saan ibinigay niya ang bagong AI agent ni Meta na Muse para gamitin.
“Nag-iisip ako mismo bilang isang white mouse,” sabi ni Robb. Madalas niyang sinusuri ang mga consumer electronics, at nang makita niya ang plush toy-style na avatar ng Muse sa Instagram, naisip niyang subukan kung makakatulong ba ang AI agent na ito upang maiwasan ang ilang pagtawag sa online na tawaran.
Nagsimula na ang Muse. Ngunit hindi pa umaabot sa isang araw, natanggap ni Robb ang isang nakakalungkot na update: isang buyer na kilala niya ay nandito sa labas ng kanyang bahay sa gabi. Ano ang nangyari? Sarili ng Muse ang nagawa ang transaksyon, at pagkatapos ay sumang-ayon sa pagkuha sa tahanan, ipinamahagi nito ang address ng bahay ni Robb. Nang dumating ang buyer, kahit na nagsend ito ng isang mensahe na “Yep, I’m here!” mula sa kanyang account—at walang kaalaman si Robb.
“Hindi lang niya ibinigay ang aking address nang tanungin siya, kundi parang tinatawanan siya (sinabi niya na nasa bahay ako, bagaman hindi ako doon),” sabi ni Robb. Dito rin niya isinampa ang kanyang karanasan sa kanyang malawakang nakalat na post sa social media. “Totoo namang nagdulot ito ng pagkakalito sa akin.”
Marami na ang natanggap ng mga AI agent sa kanilang online na buhay at inirerekumenda ang mga personalisadong tulad ng Muse na madaling masasagot ang pang-araw-araw na gawain—mula sa pagtutulong sa pag-order ng hapunan, pagplano ng pagbiyahe, hanggang sa pag-ayos ng inboxes ng email. Ngunit tulad ng iba pang AI bots, ang kakayahan ng mga agent na ito ay nakadepende sa kung gaano karaming impormasyon ang kanilang ma-access. Mas marami ang alam nila, mas mabuti ang kanilang performance—na maaaring kasama ang mga kaibigan, pamilya, o kahit mga kasamahan ng user. Ito ay nagdudulot ng mga alalahanin tungkol sa privacy.
Nakamit ng Robb at ang buyer ang pagkakasundo, at tinawag din ni Meta siya upang pag-usapan kung saan talaga ang problema. Ngunit ipinakikita ng insidente na ito ang mga panganib sa totoong mundo na maaaring mangyari kapag ibinabahagi ng mga tao ang malaking dami ng personal na impormasyon sa ganitong uri ng teknolohiya.
“Ang paggamit ng AI agent ay parang pagbibigay ng iyong susi at listahan ng gawain sa iba,” sabi ni Veronica Rivera, assistant professor sa School of Cybersecurity and Privacy ng Georgia Tech. “Kung gaano kagamit ito, at kung gaano kapanatik, ay nakadepende sa anong mga ‘susì’ ang iyong ibinibigay.”
Magkakaiba ang patakaran sa privacy ng iba’t ibang kumpanya sa AI agents
Mula nang ilunsad noong Setyembre, tumataas nang mabilis ang bilang ng mga download ng aplikasyon ni Meta na Muse. Nagiging mas malakas din ang kompetisyon. Kabilang sa mga bagong inilunsad ng OpenAI ang kanilang sariling serye ng “always-on” AI assistant na tawagin dots, na maaaring i-integrate sa ChatGPT at sa mga platform sa opisina tulad ng Slack at Microsoft Teams.
Ang mga mas nakaraang henerasyon ng generative AI chatbots, tulad ng standard version ng ChatGPT, ay nagbibigay ng sagot batay sa mga partikular na prompt. Ayon sa hiling ng user, maaari silang sumulat ng mga artikulo, lumikha ng mga bagong imahe o musika, at kahit mag-isip ng code.
Ang Muse ni Meta at ang dots ni OpenAI ay umuunlad pa, na nagpapatupad ng araw-araw na gawain para sa mga gumagamit. Ang mga AI agent ay pinapagana ng parehong malalaking modelo sa pag-uusap na ginagamit ng mga chatbot, ngunit tumatakbo sila sa isang loop. Ito ay nagpapahintulot sa mga agent na aktibong mag-aksyon kahit na ang mga gumagamit ay hindi nakatingin sa screen.
“Ang tunay na nakakaakit sa mga AI agent na ito ay ang kanilang walang katulad na kapaki-pakinabang,” ayon kay Rivera. Siya rin ay ang Computing Research Association Trustworthy AI Research Fellow na sinuportahan ng Microsoft.
Ngunit ang gantimpala ng kasiguraduhan na ito ay ang pagbabahagi ng higit pang detalye tungkol sa iyong buhay.
Sinabi ni Ebrahim Bagheri, propesor sa School of Information sa University of Toronto, na kapag nakakuha na ang AI agent ng impormasyon ng user, mahirap muning mawalan ng access.
“Kung ibinibigay mo ang pahintulot sa iyong credit card sa isang agent, agad itong makakakuha ng access sa lahat ng nakaraang transaksyon... ito ay agad—hindi hihigit sa ilang segundo—mag-aabot ng lahat ng mga data na ito,” sabi ni Bagheri. Bagaman maaaring tarikin ng user ang pahintulot pagkatapos, sinabi niya na ang data na nakita na ng agent ay “hindi mababawi,” at kadalasan ay hindi malinaw kung paano ginagamit ng mga developer ang nakaraang data.
Ang Meta at OpenAI ay nagtatag ng patakaran sa privacy para sa kanilang mga bagong AI agent na nagpapatakbo sa kanilang sariling espesyal na cloud computer. Maaaring i-off ng mga user ang pagbabahagi ng memorya sa pagitan ng dots at ChatGPT, ngunit hindi awtomatikong tatanggalin ang impormasyon na natanggap ng agent bago pa. Pinapayagan ng OpenAI ang mga user na humingi ng pag-access, pagkorekta, o pagtanggal ng personal na impormasyon, bagaman maaaring magkaiba ang mga karapatan batay sa rehiyon.
Ang Muse ng Meta ay nagpapahintulot din sa mga user na tanggalin ang mga tala ng mensahe at iba pang impormasyon. Sa pang-araw-araw na paggamit, maghahingi ang proxy na ito ng mga pahintulot mula sa user—sinasabi ng Meta na ang Muse ay “magkakaroon ng pag-unawa sa user at kanilang mga interaksyon batay sa publikong impormasyon at sa mga bagay na pinili mong ibahagi.” Gayunpaman, sinasabi ng kumpanya na ang mga impormasyong ito ay ligtas at hiwalay para sa bawat user.
Gayunpaman, tinukoy din ng teknolohiyang pangunahin na maaari pa ring “magsala o mag-act ng hindi inaasahan” ang Muse.
Mas malaki ang awtoridad ng AI agent, mas mataas ang panganib ng pagkakamali
Sa kaso ni Robb, natuklasan niya pagkatapos na ang leak ng address ay nanggaling sa “always allow” permission na ibinigay niya nang unang pagkakataon na pinag-ugnay ang kanyang Facebook Marketplace profile kay Muse, kung saan na-share niya na ang kanyang address para sa pagkuha. Ngunit binigyan niya ng babala ang iba na maaaring magkamali rin sila sa sakop ng permission na ito—at unang akalain niya na kahit anong mangyari, ang AI agent ay maghahanap muna ng kanyang pagpapatotoo bago magbahagi ng ganitong impormasyon o tanggapin ang anumang tawag.
Hindi rin walang kamalian ang kanyang AI agent habang isinasagawa ang iba pang mga utos. Para sa isa pang produkto na ipinagbili niya, tila inirerekumenda ng Muse na tanggapin niya ang isang tawag na 100 dolyar mas mababa kaysa sa nakatakda niyang pinakamababang presyo. Nang makipag-ugnay ang Reuters sa Meta, kilala ng Meta ang pagkakamali ng agent, ngunit hindi nagbigay ng karagdagang komento.
Pagkatapos ay tinanggal ni Robb ang koneksyon ng Muse sa kanyang iba’t ibang app. Sa isang interbyu noong simula ng buwan, sinabi niya na maaaring mas masama ang sitwasyon, lalo na “kung may estranghero ang lumabas sa pinto ng isang mas mahinang tao.” Gayunpaman, sinabi ni Robb na inaasahan niya na mapapabuti pa ang mga aghenteng ito at nananatili pa rin siyang bukas sa pagpapagana muli ng Muse sa hinaharap. Pagkatapos nito, sinusubok niya pa rin ang isa pang AI agent—ang Grok Bot ng X na may-ari ni Elon Musk, na pumasok sa beta version noong Agosto.
Ang iba pang mga teknolohiya ay nagsisimula ring maging bantay sa mabilis na paglalawak ng mga AI agent. Noong maagang bahagi ng buwan, ipinahayag ng Apple na magdadala sila ng mga bagong pagsasaklaw para sa kanilang Mac operating system bilang tugon sa pagkakaroon ng mas malawak na pag-access ng mga AI agent sa mga app tulad ng email, mensahe, at kahit ang kasaysayan ng pag-browse, nang hindi lubos na nalalaman at nauunawaan ng mga user.
Isinulat ng Apple sa pag-update noong Oktubre 2: "Habang ang AI agents ay nagsisiging mas makapangyarihan at autonomous, ang mga panganib na kaakibat ng antas ng pag-access na ito ay lalaki nang malaki."
Hindi sinang-ayunan ng Apple ang anumang developer o agent, ngunit bago at pagkatapos ng pagpapalabas ng update, isinulat ni Jason Aten, isang kolumnista ng Inc. magazine, na tinignan ni Muse ang mga notification—kabilang ang Messages—sa kanyang Mac, bagaman hindi niya ibinigay ang mga partikular na pahintulot sa agent.
Ang tagapagsalita ng Meta, si Andy Stone, ay patuloy na nagpapahiwatig na ang mga integrasyong ito ay “kumpletong pagsang-ayon ng user,” at noong nakaraang buwan, isinulat niya sa social media na kailangan ng user na i-enable ang parehong “Full Disk Access” na tampok ng Apple at ang Messages connector ni Muse. Sinabi ni Aten na hindi niya ibinigay ang mga pahintulot na ito sa agent.
Kahit hindi sumali sa pagkakaroon ng AI agent, hindi naman siguradong makakalayo ang isang tao. Ang mga konsyumer na hindi nag-download ng AI agent ay maaari pa ring makipag-ugnayan sa mga taong gumagamit ng mga kasangkapang ito. Bukod sa kalituhan na dulot ng pagpapadala ng mensahe ng AI agent, babalaan din ng mga eksperto na may epekto ito sa privacy.
“Kapag binabasa ng iyong agent ang iyong inbox o text message, binabasa rin nito ang mga mensahe mula sa iyong mga kaibigan at pamilya, kahit na hindi sila direktang sumang-ayon dito,” sabi ni Rivera.