Pagkatapos ng OpenAI na magdagdag ng plugin ng Apple Messages sa desktop version ng ChatGPT, maaari ng mga user na hayaan ang chatbot na maghanap ng mga lumang text message, i-summarize ang mga group chat, mag-draft ng mga sagot, at direktang magpadala ng mensahe sa Mac. Kailangan ng manual na pahintulot mula sa taga-install, ngunit hindi binabahala ang iba pang mga kalahok sa parehong usapan, na nagdulot ng mabilis na kontrobersiya ukol sa privacy at seguridad.
Focus on access after decryption
Ipinaglalaban ng maraming eksperto sa kaligtasan na ang kontrobersiya ay hindi ukol sa pagbabreak ng ChatGPT sa end-to-end encryption ng Apple, kundi sa katotohanang maaari nang basahin ng lokal na software ang nilalaman matapos makarating ang mensahe sa device ng tagatanggap. Ibig sabihin, hindi nasira ang encrypted transmission mismo, ngunit kapag nakakakuha ang mga third-party tool ng pahintulot sa device, maaaring i-retrieve at i-analyze ng karagdagang sistema ang mga nilalaman na dati ay nakikita lamang ng mga kalahok sa usapan.
Sinabi ni Paul Walsh, isang eksperto sa kaligtasan at privasi, sa Fortune na ang pinakamalaking pag-aalala sa ganitong uri ng pag-access ay ang pagpapahintulot hindi lamang sa pagbukas ng kanilang sariling data, kundi pati na rin ang mga mensahe ng iba mula sa kanilang maraming taong pag-uusap na ipinapakita sa mga third-party system. Para sa mga nagtataglay ng encrypted communication para sa sensitibong transaksyon, ito ay nagpapababa sa kanilang inaasahang privacy sa kanilang komunikasyon.
Sinabi ng OpenAI na ang default ay mananatili sa lokal
Sinabi ng OpenAI na pagkatapos i-enable ang mga plugin, hindi awtomatikong magbuo ng index ng mga record ng impormasyon ng user ang ChatGPT, ni hindi ito aktibong babasahin ang lahat ng usapan. Ang sistema ay mag-aaccess lamang sa mga mensahe na kaugnay kapag ang user ay direktang humihingi ng impormasyon.
Kinabigyan din ng kompanya na ang desktop version ng ChatGPT ay nag-save ng mga kaugnay na usapan sa lokal na computer, at ang mga mensahe mula sa Apple Messages ay hindi awtomatikong i-synchronize sa OpenAI server. Ngunit kung piliin ng user na i-save ang mga usapan ng ChatGPT sa cloud, ang mga nilalaman ng mga mensahe ay maglalapat ng parehong patakaran sa pag-iimbak at pagpapanatili, at maaaring makapasok sa cloud memory feature.
- Sa default, nananatili ang nilalaman ng mensahe sa lokal na Mac ng user
- Hindi makakapag-access ang sistema sa mga nilalaman ng impormasyon kung hindi mo ito tanong nang malinaw
- Kung ang usapan ay i-save sa cloud, ang mga kaugnay na nilalaman ay kasama rin sa cloud.
Nag-aalala ang security company sa pagpapalawak ng mga pahintulot
Sinabi ni Dave Richardson, ang Chief Technology Officer ng mobile security company na Lookout, na ang pagtawag sa tampok na ito bilang “spyware” ay maaaring sobra, dahil ito ay default na naka-off at nangangailangan ng malinaw na pahintulot mula sa user. Gayunpaman, nananatili siyang naniniwala na ito ay nagdudulot ng malinaw na panganib sa mga komunikasyong channel na dating itinuturing na ligtas.
Lumabas niya na ang end-to-end encryption ay nagpaprotekta sa proseso ng pagpapadala ng mensahe sa pagitan ng mga device, kung saan ang platform o network operator ay hindi makakapagbasa ng laman sa paglipas, ngunit matapos makarating ang mensahe sa terminal, ang device mismo ay patuloy na makakapag-access nito. Kung ang mga user ay magpapahintulot sa mga third-party service tulad ng OpenAI o Anthropic na makakuha ng mga nilalaman na ito, ang tunay na saklaw ng proteksyon ng end-to-end encryption ay mababawasan.
Ang privacy company na Proton ay naglabas din ng pagsusuri noong Martes na ang ganitong panganib ay maaaring mag-iba sa mga taong hindi nagamit ang ChatGPT, dahil kahit anong mensahe ang ipapadala nila, maaaring ma-access kung ang kanilang kasamang nagsasalita ay nag-enable ng plugin. Sinabi rin ng Proton na ang “full disk access” na kailangang bigyan ng pahintulot sa proseso ng pag-install ay isang mas malawak na pag-aalala sa seguridad.
Pumapasok na ang AI sa mas maraming sensitibong aplikasyon
Ipapakita ng kontrobersiyang ito na ang mga tool sa AI ay patuloy na lumalabas sa mga chat box at dumadaan sa mas malalim na mga pagsasakop ng device. Ipinakita ng pag-aaral na ibinigay ni Lookout sa Fortune na sa nakaraang taon, patuloy na tumataas ang mga pagsasakop sa data at mataas na panganib na kakayahan na hinihingi ng mga aplikasyon kaugnay ng AI, at lumalawak din ang katulad na trend sa platform ng iOS.
Sinabi ng OpenAI na ang plugin na ito ay hindi isang bagong iMessage interface na itinayo ng Apple para sa ChatGPT, kundi isang paggamit ng mga umiiral na kakayahan ng macOS. Sa pag-install, kailangan ng mga user ang pagpapahintulot sa AppleScript, accessibility, at buong disk access.
Dumating ang kontrobersya sa pagkakaroon ng mas maraming kontrol sa mga device ng AI agent, hindi na lamang tungkol sa “kung handa ang user na bigyan ng pahintulot”, kundi pati na rin kung ang ibang mga kalahok sa isang usapan ay may kaalaman, at kung ang mga pribadong komunikasyon ay maaaring magkaroon ng bagong output ng data pagkatapos ay hanapin, isummary, at itago ng AI nang matagal.