Kung biglang sabihin ng AI na may sala ka, at naniniwala nang walang pag-iisip ang lahat sa kanyang pagpapasya, paano mo mapapatotohanan ang iyong kawalan ng kasalanan?
Parang eksena sa pelikulang Minority Report kung saan hinuhulaan ang krimen at pagkatapos ay binigyan ng kasalanan, ngunit ang abstrak na bersyon ay nangyari na sa totoong buhay:
Nakakamali ang AI sa kriminal, na nagresulta sa pagkakakulong ng isang walang kasalanan na babae ng anim na buwan, at halos nawala ang kanyang buhay.
Ano ang ibig sabihin ng pag-aresto ng pulis sa “The Flash”?
Si Angela Lipps mula sa Tennessee, Estados Unidos, ay ang masamang biktima na ito. Noong Hulyo 2025, isang grupo ng mga pulis na may buong armas ay biglang sumabob sa kanyang simpleng buhay at tinutukan siya ng mga baril, at sinabing arestado siya.
Nakapagtaka siya sa panahong iyon, dahil hindi niya alam kung anong kasalanan ang kanyang ginawa. Sinabi ng pulis na siya ay apektado sa isang kaso ng pandaraya sa bangko sa North Dakota, at ang anyo ay tila may sapat na ebidensya, at binuksan nila ang 5-star warrant, ngunit nang marinig niya ang dahilan, tumigil siya sa kanyang lugar:
Pero hindi ako napunta sa estado na iyon sa buong buhay ko.
Sa mapa, may malaking layo ang Tennessee ng Estados Unidos sa North Dakota, at ang AI ang nag-uugnay sa kanya sa suspect.
Noong arestuhin siya, sinira agad ng pulis ang kanyang paliwanag; ang mga detalye ng kaso ay nalaman lamang pagkatapos siyang ilagay sa bilangguan. Ang pulisya sa Fargo, North Dakota ay nagsisikap na imbestigahan ang isang kaso ng pandaraya, kung saan ang suspect ay gumamit ng isang maling identidad bilang sundalo upang makuha ang ilang libo-libong dolyar mula sa bangko, at ang paraan ng imbestigasyon ng pulisya ay una ay pagsusuri sa mga camera, pagkatapos ay pagtatanong sa AI, at huli ay arestuhin ang suspect.
Maaaring isipin mong ginamit ang AI para “炼化” si Sherlock Holmes, at biglang naging detektib na may malalim na lohikal na pag-iisip upang lutasin ang kaso, ngunit hindi ito ganito “komplikado.” Gumamit ang pulisya ng AI system para sa facial recognition sa mga screenshot mula sa CCTV, at pagkatapos ay sinuri ang database para hanapin ang mga suspect.
Ang resulta ay ang AI ay maliit na nag-match sa larawan ni Angela Lipps. Pagkatapos, ang impormasyong ito ay ipinadala sa pulisya na nagsisikap sa kaso, at ang mga empleyado ay nag-gawa ng mas malaking pagkakamali: pagkatapos ng manual na pag-check sa kanilang driver’s license at social media, naniniwala sila na ang mga katangian sa mukha, katawan, at buhok ay magkakatulad, kaya nila itinuring siya bilang suspect.
Larawan mula sa GoFundMe
Nakarating ng malaking pagkabigo ang kapatid na babae pagkatapos marinig ito, at hindi nagkaroon ng karagdagang pagsisiyasat sa iba pang mga patunay, baka magkakasalungat ang anyo? Ngunit mas malaking pagkabigo ang nasa harap, kasi pagkatapos ng isang serye ng mga hakbang, wala siyang pagkakataong patunayan ang kanyang kawalan ng kasalanan.
Ayon sa lokal na proseso, hindi siya agad na inaresto at dinala sa North Dakota para sa karagdagang imbestigasyon, kundi naghintay sa isang lokal na bilangguan sa Tennessee. Dahil itinuring siyang “interstate fugitive,” wala siyang karapatan sa bail o pagkakataon na magsagot sa mga tanong ng pulis, at napanatili siya sa bilangguan nang 108 araw—mula sa Hulyo hanggang sa huling bahagi ng Oktubre—mahirap ipag-isip kung gaano kadakila ang kanyang pagkabigla sa panahong iyon.
Angela Lipps ay naghintay hanggang Oktubre 30, nang huli ay dinala ng pulis labas sa bilangguan para ihatid sa North Dakota, nang siya ay nakaharap sa maraming pagkakasala; habang naglalakbay, hindi lamang siya nakapasa ng mga manman, kundi may kadena rin sa kanyang talikod, at sa kanyang pananaw, ang paglalakbay sa paliparan ay parang pagpapakita sa publiko.
At ang talagang ito ay ang kanyang unang pagkakataon na sumakay ng eroplano sa buhay niya.
Hindi inaasahan niya na pagkatapos makarating sa North Dakota, kailangan pa rin niyang maghintay. Hanggang sa Disyembre ay mayroon siyang opurtunidad na ipaliwanag ang pangyayari, kung saan direktang ginamit ng kanyang abogado ang kanyang bank records para i-compare ang oras; noong mangyari ang krimen, nasa Tennessee, 1,900 kilometro ang layo, siya ay bumibili ng pizza, na nangangahulugan na kung hindi siya ang “The Flash,” hindi niya maaaring gawin ang krimen sa ibang panahon.
Lumipas lang ng 5 minuto ang buong proseso, at tinulungan na ng abogado ang kanyang ipaliwanag ang bagay na ito.
Noong Disyembre 24, tinanggal na ang kanyang mga akusasyon, ngunit hindi siya nakakaramdam ng kaligayahan, dahil ang “cut-off line” ay nasa antas ng mga paa na lamang.
Angela Lipps ay nagdiriwang ng kanyang 50th birthday sa loob ng bilangguan; habang nasa loob, hindi siya pinahintulutan na magdama ng kanyang mga pang-ilalim, kaya kumakain siya ng junk food at nagsisilbing malaking presyon ang kanyang isipan, na nagresulta sa malaking pagdami ng timbang. Nang pumasok siya sa bilangguan, naka-suot siya ng summer clothing, ngunit nang lumabas siya, nasa taglamig na—hindi siya mayroong makapal na coat, kaya't kahit mag-iiwanan lamang ng mainit ay isang problema, paano na lang ang pagbabalik sa bahay? Noong panahong iyon, hindi din ibinigay ng pulis ang pera para sa paglalakbay; pagkatapos lumabas, parang nakakulong siya sa North Dakota—at sa araw na siya ay maliwanag na pinagsamantalahan ng AI.
Ngunit sa kabutihang palad, may mga mabuting tao na tumulong sa kanya.
Nakatulong ang kanyang abogado sa pag-ayos ng accommodation sa hotel at pagkakaroon ng pagkain upang makalampas sa pinakamahirap na panahon, at tinulungan siya ng lokal na non-profit organization sa pagbabalik sa kanyang tahanan sa Tennessee.
Ngunit pagbalik sa bahay, ang pagkakaroon ng muli ng buhay ay ganoon din kahirap na pagsisikap. Sa panahon na siya ay nasa bilangguan, tumindi ang kanyang kalagayang pang-ekonomiya, nawala ang kanyang pinapanirahan, nawala rin ang kanyang aso, at kahit ang sasakyan at lahat ng mga bagay na nasa loob nito ay nawala rin. Ang kanyang mga personal na gamit ay naka-imbak sa isang warehouse, ngunit dahil hindi niya kayang bayaran ang renta, lahat ng kanyang mga kagamitan sa pang-araw-araw ay nalikas. Kahit ang kanyang mga ugnayang panlipunan ay nasa panganib, dahil ang mga kapitbahay ay nakakita kung paano siya inaresto at “nawala” nang anim na buwan, at naniniwala sila na talagang may kasalanan siya.
Sambil iyon, ang kaniyang kakaibang karanasan ay mabilis na naging viral sa internet at nagdulot ng maraming masasamang komento. Halimbawa, marami ang nagsasabi na walang salita—sa Estados Unidos, may mga tao na maaaring “0-pesos purchase,” ngunit kung ikaw ay mag-akto laban sa banko ng isang kapitalista, agad ka ring sasakop, kahit hindi ikaw ang gumawa nito.
Dahil sa pagiging malaki ng isyu, muli niyang natanggap ang pagkakataon sa kanyang pagkakabigo at nakatanggap ng higit pang tulong; kasalukuyan, nakapag-raise na siya ng $80,000 sa crowdfunding na sapat na para sa pagmumula muli sa kanyang buhay.
Ngunit ngayon, ang pinakamalaking inaasahan ng mga netizen ay siya ay makahanap ng isang team ng mga abogado, at saka sila ay ipaglaban nang buong-pusong, maaaring manalo ng kaso at makakuha ng karagdagang kompensasyon.
Dahil hindi ito pagkakamali ng pulisya, mayroon nang maraming kaso ng pagkakamali bago ito, at ang ilang mga tao ay may mas masamang karanasan kaysa sa kanya.
Pangalawa: Mga nakakatakot na sci-fi na sandali dulot ng "pagkakamali" ng AI
Angela Lipps’ experience ay talagang naganap na mahigit sa sampung beses sa iba’t ibang rehiyon, kahit sa ibang bansa.
Halimbawa, si Robert Williams ay isa sa mga unang biktima ng ganitong insidente; noong 2020, arestado siya sa harap ng kanyang asawa at anak, at pinakulong nang 30 oras, bagaman mas mataas siya ng 20 sentimetro kaysa sa tunay na kriminal.
Si Chris Gatlin ay isang iba pang "top victim"—ayon sa malabo na mga larawan mula sa surveillance camera, inakma siya ng AI bilang isang posibleng suspect sa kaso ng pag-atake sa subway, at sa ganitong paraan, inilagay siya sa bilangguan nang 17 buwan, gawing pinakamahabang panahon ng pagkakabilanggo ng isang walang kasalanan. Ang nakakatotohanan ay hanggang sa huli, natuklasan ng mga awtoridad na mayroon pa isang body camera na maaaring maging mahalagang ebidensya, ngunit ang suspect sa video ay hindi kahit anong katulad niya.
Noong 2023, sinakop din ni Porcha Woodruff ang parehong sitwasyon, kung saan inakusahan siya ng pulisya ng pagkukunwari ng pagkukunwari. Nang marinig niya ito, umiwas siya sa tawa, akala niya ay isang palaisipan ng pulisya, dahil siya ay may-ari ng walong buwang pagbubuntis at hindi talaga nagmumula sa kahinaan. Gayunpaman, sinakop siya at isinara sa loob ng sampung oras, at huli’y nagkamali siya sa kaso.
Noong taong ito, isang batang lalaki sa Britain na si Alvi Choudhury ay dinakip dahil sa katulad na sitwasyon, at sinasabing siya ay nagsagawa ng “pagsasakop sa pribadong ari-arian,” ngunit mula sa ebidensya, ito ay gawa nang “nang hindi nakakontak.” Ang ganitong pangyayari ay may dokumento rin sa pelikula. Ang larawang nakikilala ng AI ay ang kanyang litrato noong 2021 nang siya ay dinakip, at natawa ang pulis nang makita ang totoong tao dahil mas matanda siya ng hindi bababa sa 10 taon kaysa sa suspect.
Ang larawan ay galing sa *The Mind Transmitter*
Noong 2022, arestado si Praveen Kumar, isang negosyante mula sa India, habang naglalakbay patungo sa Switzerland nang siya ay nag-transit sa Abu Dhabi at matukoy ng AI bilang isang hinahanap na kriminal. Pinagsamaan siya ng mahigpit na pagtatanong ng lokal na awtoridad, at matapos malaman na hindi siya ang suspect, ipinagbawal siya pabalik sa India, kung saan siya ay inaresto muli nang dalawang beses sa airport.
Sa mga ganitong pangyayari, ang pinakakapalpalo ay ang naranasan ni Russian scientist Alexander Tsvetkov, kung saan sinabi ng AI na kumukulay siya ng isang tagapagpatay, at sinakop siya ng 10 buwan.
Maaaring sabihin na ang siyentipiko ay naging biktima ng parehong pagkakamali ng AI at ng tao. Noong Pebrero 2023, pagkatapos niyang tapusin ang kanyang pananaliksik, bumalik siya sa Russia, at agad siyang arestado pagkatapos bumaba sa eroplano. Dahil sa AI, may 55% na pagkakatulad ang kanyang mukha sa larawan ng suspect sa isang serye ng pagpatay na nangyari nang higit sa dalawampung taon ang nakalipas, samantala, may isang witness na may kaso sa kasong ito na nagbigay ng maling testigo upang mabawasan ang parusa nito. At mas masama pa, hindi rin seryosamente imbestigahan ng pulisya, at agad siya arestado.
Pagkatapos ayakap, unang akalain niya na isang maliit na pagkakamali, ngunit ang imbestigasyon ay hindi natatapos, at sa ilalim ng malaking presyong pang-isip at mga problema sa kalusugan, napilitan siyang mag-amin ng kasalanan, at pagkatapos ay bumalik sa kanyang pahayag. Masaya na ang kanyang asawa at mga kasamahan sa instituto ay patuloy na nagpapalakas para sa kanya, at nagtipon ng maraming dokumento upang patunayan na noong taon ng krimen, nasa ibang lugar siya sa pagmamasid. Kasama ng pagkakalat ng mga balita, ang kaso ay naging paksa ng malawakang talakayan ng publiko, at sa December ay umabot sa isang pagbabago, at opisyal na ibinawi ang mga akusasyon noong Pebrero 2024.
At ang mga kaso na ganito ay nangyayari na mas madalas dahil sa pag-unlad ng AI, at tila ang AI ang nagsisigaw, habang ang ilang tao ay naging mga machine na sumasagawa.
Tatlo: Ang pagkakasakit sa propesyon na “sinasabi ng AI”
Ang abstrak na pakiramdam ng "pagbabalik-tanaw sa papel" ay dulot ng katotohanan na parehong ang AI at ang tao ay maaaring magkamali; kahit gaano pa kalakas ang AI, maaari pa ring magkamali, at mas lalo pang maaaring "magsawa" ang tao kahit kailan.
Kung kukunin natin ang Clearview AI system sa Estados Unidos, ito ang nagpaipit sa babae sa unang bahagi ng artikulo sa bilangguan, ngunit hindi ito isang pirata software. Sinasabing may pinakamalaking database ng larawan sa buong mundo ang Clearview AI, at sinasakop nito nang walang takot ang milyon-milyon na larawan habang binabayaran ng maraming bansa. Higit sa 3,000 na ahensya ng pagpapatupad ng batas sa Estados Unidos ang gumagamit nito, at noong nakaraang taon ay nag-sign ito ng isang kontrata na $9.2 milyon kasama ang ICE.
Ngunit sa simpleng salita, ang Clearview AI ay isang “search engine para sa mukha” kung saan ang paggamit nito ay ang pag-upload ng isang larawan, paghahanap nito sa database nito, at pagbibigay ng maraming magkakatulad na larawan, at ang huling desisyon kung kailan ang tama ay nasa iyo pa rin.
Bagaman ang pag-unlad ng AI sa mga nakaraang taon ay napakabilis, ang “accuracy rate” ay patuloy na nagdudulot ng kontrobersiya, dahil ang mga data sa pagsusuri ay may iba’t ibang kalagayan kumpara sa mga sitwasyon sa totoong buhay kapag ginagamit ang paghahanap ng imahe.
Halimbawa, sa karamihan ng mga pagkakataon, ang kalidad ng mga larawan mula sa mga camera ng pulisya ay parang kinuha ng telepono, at kasama pa ang mga kakaibang ilaw, kakaibang anggulo, pagkakasakop sa mukha, at iba pang mga kadahilanan, ang pagkilala ay talagang mahirap, at ang mga larawan sa database ay maaaring lumang larawan, kaya ang pagkakatugma ay maaaring dahil lang sa pagkakatulad ng anyo ng dalawang tao.
At kapag inaapply ang mga error na ito sa mga tao, natural na masasaktan sila.
Ito ba ay isang乌鸦 o isang pusa?
Kung sa tingin mo ay ang AI ay nagkakamali lamang nang pansamantala, may pag-asa pa dahil ang mga ito ay mga “patnubay” lamang, at kailangan pa ng tao na magmungkahi ng “konklusyon,” ngunit sa maraming pagkakataon, mas “kakaibang” ang tao kaysa sa AI.
Totoo nang ilang taon na ang pagkakaroon ng mga reklamo na ang pulisya ng Amerika ay pinapagawa ng AI, at nasa ilalim na sila ng “automated bias”—o ang sobrang pagkakadepende o pagkakatiwala sa mga resulta ng AI. Kung sabi ng AI na pareho sila, naniniwala ang tao. Hindi problema ko kung hindi tugma ang taas, kahit may alibi, ako lang ang responsibilidad na arestuhin, at ang lahat ng iba pang ebidensya, sabihin na lang sa bilangguan. Habang iniiwasan ang mga pangunahing hakbang sa imbestigasyon, pinapagawa rin nila ang iba na “maglaktaw sa buhay.”
Totoo naman na malinaw sa mga tao ang mga kahinaan ng AI; pagkatapos ng maraming perang napunta sa pagbabayad, maraming rehiyon sa Estados Unidos ay itinatag ang “mga pader ng pag-iingat,” tulad ng paghingi ng sariling ebidensya maliban sa mga patnubay mula sa AI habang sinusuri ang kaso, at ilang lugar ay direktang ipinagbabawal ang paggamit ng teknolohiyang ito sa paglutas ng krimen.
Ngunit hindi kayang pigilan ang sobrang pagiging kapaki-pakinabang ng AI. Bagaman may posibilidad na mabigo, mas marami naman ang tagumpay. Madalas, ang mga patunay na mahirap hanapin ng pulisya ay isang larawan mula sa isang kamara ng pagmamasid na “level ng pinto,” at malaki ang posibilidad na gagamitin nila ang AI para subukan ang kanilang kapalaran. Noong 2023 ay may mga ulat na ginamit ng pulisya sa Estados Unidos ang Clearview AI sa higit sa isang milyong paghahanap, at kahit na ipinagbawal na ito nang pormal, patuloy pa rin silang gumagamit nito nang lihim—sapagkat kahit gaano pa karami ang ginamit, maaaring sabihin nilang hindi ito ginamit. Kung ipinagbawal ang isang software, gagamitin nila ang isa pang isa; kung ipinagbawal ito sa lokal, hihingi sila ng tulong mula sa ibang institusyon. Tunay na nakakasawa na.
Kaya, kapag una ng AI ang magbigay ng isang hindi kapani-paniwala na paalala, at pagkatapos ay ang tao ay maging malayang maglaktaw sa pag-aaral, ang kombinasyon ng dalawa ay nagdudulot ng natural na kaso ng pagkakamali.
Kasalukuyang kinakaharap ng sistema ng Brazil na Smart Sampa ang mga katulad na problema sa loob ng dalawang taon. Noong 2024, sinimulan ng São Paulo, Brazil ang pinakamalaking AI-powered facial recognition system sa Latin America, na sinasabing konektado sa 40,000 na camera.
Ang magandang balita ay ang epekto ay talagang malakas: sa loob ng ilang taon, higit sa apat libong krimen ay arestado sa lugar, at higit sa tatlong libong tagalikod ay nahuli, at ang mga pang-aabuso ay bumaba ng halos 15% noong 2025, isang tunay na “makinang pag-aresto sa mga magnanakaw.”
Ang masamang balita ay kumakatawan sa hindi kamalayang 59 o higit pa.
Kasama rito ang ilang abstrakong kaso, tulad ng isang may sakit sa isip na dinala bilang kriminal sa ospital, at pagkatapos ay inalay dahil sa nabigo na ang kanyang arrest warrant. May isang lalaki na nahuli apat beses sa loob ng 7 buwan—kinakalimutan siya ng AI bilang isang naghahabol na mandudula. Bawat beses, agad siyang inalay pagkatapos dala sa pulisya, at ilang araw pagkatapos ay bumabalik muli—natakot na siya.
Noong dating pinag-uusapan kung anong mga trabaho ay hindi makakamit ng AI, sinasabi natin na hindi kayang palitan ng AI ang tao sa bilangguan, ngunit hindi natin isinip ang kabaligtaran ng problema na ito—ngayon ay kayang isakdal nito ang tao.
Noong una, isang joke lang ito, ngunit ngayon ay halos hindi na ito balita. Sa totoo lang, hindi lang facial recognition ang may kakayahang gumawa ng mga nakakagulat na bagay—ang AI ay minsan ay nagpapakita rin ng malakas na performance sa pagkilala sa mga bagay.
Noong nakaraang taon, ang isang AI na sistema ng seguridad sa isang mataas na paaralan sa Amerika ay nakakilala sa isang pakete ng potato chips na hawak ng isang batang lalaki bilang “potensyal na baril” at agad na nagtriggerng alarm. Dumating ang 8 na pulisya, at agad na kontrolado ang batang lalaki; pagkatapos ay isinagawa ang pagsusuri sa kanyang katawan at natagpuan lamang ang plastic na bag ng snacks sa basurahan, at naging sobrang nakakahiya ang sitwasyon—kaya naniniwala ang batang lalaki na hindi siya makakabuhay.
Huwag mong sabihin, huwag mong sabihin talaga
Sino ang makakaisip na habang lalong lumalakas ang AI, mas malalaking problema ang ginagawa ng ilan dito? Noong panahon pa ay maliit ang AI, mali ang pagkilala sa larawan, at naging bahan ng tawa ng buong net. Ngayon, dahil lalong lumalakas ang AI, isang tao lang ang maliing kilala, at ang tao ay nakakulong ng kalahating taon. Huwag nating gawin sa hinaharap ang mga abstrak na bagay tulad ng AI na hukuman, AI na abogado, o新能源法庭. Sa huli, ang AI ay isang kasangkapan lamang, at ang mahalaga ay ang kakayahan at layunin ng gumagamit nito—o sa madaling salita, habang lalong lumalakas ang AI, mas hindi dapat magpapahinga ang tao.
Sa kabuuan, nagsisimula na akong mabawasan ang pagmamahal sa yung simpleng AI.
Nakuha mula sa WeChat public account na “CoolPlay Lab”, may-akda: CoolPlay Lab