Sinabi ni Meredith Whittaker, pangulo ng Signal, sa isang interbyu sa Bloomberg na hindi dapat ituring ng mga user ang mga chatbot tulad ng ChatGPT at Claude bilang "kaibigan" o mga pakikipag-ugnayang may subheto. Ibinaba niya ang pag-uusap sa mga isyu ng privacy at pagsang-ayon, at naniniwala siya na ang mga kasangkapan na ito ay mabilis na magpapalaki ng panganib kung mas malalim na maiintegrase sa mga personal na serbisyo.
Whittaker tungkol sa mga hangganan ng paggamit ng AI
Sinabi ni Whittaker na gamit niya ang mga AI tool sa ilang kaunting sitwasyon, tulad ng pag-ayos ng format ng mga dokumento, ngunit hindi niya isasauli sa modelo ang proseso ng pagtatanong, pag-iisip, at pagsusulat. Sinabi niya na hindi niya gustong palitan ng isang sistema na naglalabas ng sagot batay sa umiiral na impormasyon ang proseso ng pag-iisip na dapat gawin ng indibidwal.
Pag-aalala sa pagkuha ng sensitibong pahintulot sa pagitan ng mga app
Sumagot din siya sa isang ideya na unang inilahad ni Mustafa Suleyman, pangulo ng AI business ng Microsoft, na ang mga user ay maaaring ipagkatiwala ang paggawa ng Christmas shopping kay Microsoft Copilot. Naniniwala si Whittaker na upang maisakatuparan ang ganitong senaryo, kailangan ng sistema na basahin ang malaking dami ng personal na impormasyon at magexecute ng mga aksyon sa pagitan ng maraming serbisyo.
- Credit card at impormasyon sa pagbabayad
- History ng pagbisita sa browser
- Signal Messages at Contacts
Bukod sa mga impormasyong nabanggit, maaaring makakapag-access ang ganitong sistema sa address ng tahanan, mga jadwal ng kalendaryo, at maaari ring magpadala ng mensahe sa mga kamag-anak at kaibigan sa halip na ang user. Naniniwala siya na ito ay hindi na lamang isang paggamit ng isang tool, kundi isang malawak na pag-access sa maraming app at serbisyo.
Ang Signal ay itinuturing ang ganitong uri ng pag-access bilang panganib ng backdoor
Ipinagpatuloy ni Whittaker na kung ang katulad na kakayahan ay ipinapakilala sa mga produkto ng encrypted communication tulad ng Signal, mula sa pananaw ng produkto security, ito ay halos katumbas ng pagtatayo ng isang “backdoor.” Ginamit niya ito upang bigyang-diin na ang mas malapit ang AI assistant function sa paggawa ng mga gawain at pagkilos bilang代理, mas kailangan ng mga user na maging maingat sa anong mga pahintulot ang natanggap nito.
Ang pahayag na ito ay nagpapakita rin ng isang patuloy na kontrobersiya sa kompetisyon ng AI assistant: kapag ang mga produkto ay lumilipat mula sa pagbibigay ng sagot patungo sa pagpapalit sa mga gawain ng user, ang konflikto sa pagitan ng kahiligan at pagprotekta sa privacy ay naging mas direkta.