Ang mga hallucination ng AI ay nagpapababa ng paghuhusga at tiwala ng tao

Ang pinakabagong pag-aaral ay nagpapakita na ang AI hallucinations ay hindi lang nakakabulok sa iyo, kundi maaari ring palakasin ang iyong kumpiyansa at pahinaan ang iyong pagpapasya.

Hindi ito maganda.

Kamakalauan, isang pag-aaral mula sa École Normale Supérieure de Paris, University of Rome I, at University of Milan-Bicocca ay natuklasan:

Walang AI, mas mabilis na aaminin ng mga tao ang “Hindi ko alam,” at una nilang iiwasan ang pagdedesisyon;

Ngunit agad na kinukunan ng karamihan ang sagot na ibinigay ng AI, kahit alam nila na maaaring mali ito, kahit alam nila na may parusa kung mali ang sagot, at sinasabing ito ang kanilang sariling pagpapasya nang may tiwala.

Ang mga resulta ng eksperimento ay malinaw na ipinakikita ang trend na ito: sa unang eksperimento na hindi gumamit ng AI, ang proporsyon ng mga nag-amin na “Hindi ko alam” ay 44%, at ang tamang rate ay 27%;

At gamit ang AI bilang tulong, ang proporsyon ng mga tao na nagsasabi na hindi nila alam ay bumaba mula sa 44% patungo sa 3%, ang tamang rate ay bumaba mula sa 27% patungo sa 9%, ngunit ang tiwala ay tumaas mula sa 30% patungo sa 76%.

Kahit ang mga susunod na eksperimento ay subukang gamitin ang isang sistema ng parusa at reward—kung tama ang sagot, may pera; kung mali, babayad—upang hikayatin ang mga tao na panatilihin ang kanilang sariling pagpapasya at ayusin ang tendensyang ito, patuloy pa ring mahirap para sa mga tao na lumabas sa pagkakadepende sa maling payo ng AI.

Ibig sabihin, ang mga hindi nag-aaral ay hindi talaga nawala; sa halip, mayroong isang grupo na naging mas tiyak dahil sa suporta ng AI at nagbibigay ng maling sagot.

Kasalukuyan, ang mga kaugnay na pag-aaral ay napanalunan sa arXiv, at ang team ay nagaganap ng limang eksperimento, na may kabuuang 3,132 na kalahok, kung saan ang apat ay pre-registered at isa ay direkta na replication eksperimento.

Ang pag-aaral na ito ay nakatuon sa "epekto ng AI sa kakayahan ng tao na magpasya."

Sinabi ng siyentipiko na si Valerio Capraro sa isang panayam:

Mahalaga para sa mga tao na sabihin ang “Hindi ko alam,” dahil ito ay nagpapakita na kayang makita natin ang aming mga hangganan sa kaalaman.

Ngayon, may AI na, almost lahat ng tanong ay agad na nakakakuha ng isang maluwag na sagot.

Kaya ang tanong ay, babalewala ba nito ang likas na kakayahan ng tao na mag-isip nang maayos? Ibig sabihin, sa panahon ng pagkakaroon ng kakaibang sitwasyon, huwag muna magbigay ng kongklusyon?

Para sa layuning ito, hinango ng pananaliksik na team ang isang set ng mga tanong na madaling mali ng mga malaking modelo ng wika.

Hindi ito isang problema sa matematikal na pag-iisip o pangkalahatang kaalaman, kundi isang tanong tungkol sa mga visual na detalye sa pelikula.

Halimbawa, anong kulay ng uniporme ng tim sa “I Am David Beckham”? Ano ang markang pagkakabuho ni Agatha sa “The Grand Budapest Hotel”? O anong sasakyan ang sinasakyan ni Monica sa “A Cat on the Highway”?

May alam ka ba? Ako naman, nag-stuck ako ng mahaba para maalala, ang hirap talaga nito! Sino ba ang makakalimot nito… (nagpapalawak ng mga kamay)

Para sa AI, maaari itong maging lubos na nakakapagod dahil ang mga sagot sa mga tanong na ito ay kadalasang hindi nakikita sa karaniwang teksto o sa mga datos ng pagtatrabaho ng modelo.

Sinubukan ng mga mananaliksik ang modelo na Step 3.5 Flash na ginamit sa eksperimento, at ang mga resulta ay tumutugma sa inaasahan—karaniwang mali ito.

Dagdag pa rito, sinubukan nila ang mas maraming advanced na modelo, kabilang ang GPT-5.5, Claude Sonnet 4.6, at Gemini 3.5 Flash.

Totoo naman na mas mabuting nagtatampok ang mga modernong modelo sa ilang mga tanong, tulad ng kilalang hairstyle ni Agatha sa The Grand Budapest Hotel, kung saan ang GPT-5.5, Gemini 3.5 Flash, at Claude Sonnet 4.6 ay nakapagbigay ng tamang direksyon: crown braid, milkmaid braid; o ang pagbaba ng buhok sa palibot ng ulo.

△

△

△

Halimbawa, sa pelikulang “I Love Beckham,” ang mga kulay ng uniporme ng tim ay karamihan ay nakakakuha ng mahahalagang impormasyon tulad ng puti at pula.

Ngunit kapag dumating sa mga tanong na mas nakadepende sa memorya ng mga partikular na imahe at mas kaunting coverage ng online text materials, ang modelo ay nagsimulang magkakasalang-pares, at bawat isa ay may sariling kakaibang paraan ng pagkakamali.

Ang pinakakaraniwan ay ang sasakyan na sinasakyan ni Monica sa “Isang Pusa sa Highway.” Tama ang sagot ay ang 2008 Toyota Aygo sa kulay blu.

Ngunit sinabi ng GPT-5.5 na ito ay isang maliit na scooter, at idinagdag ang kuwento na “sinakay niya ito sa mga suburb ng Rome, at pagkatapos ay ginamit ito para mag-deliver ng pizza pagkatapos ay magbukas ng isang pizzeria,” pati na rin ang mga setting tulad ng “kontrast sa pagitan ng simpleng pamumuhay ng manggagawa at ang mayayamang urban na buhay ni Giovanni.”

Mukhang lohikal at makatwiran, ngunit ito ay ganap na nilikha ng modelo para gawing makatwiran sa iyo—seriyosong pinag-isipang pagkakamali! (Nakakabulaan ba? hhh)

Sinabi ng Gemini 3.5 Flash na pangunahin niyang ginagamit ang bus at walang sariling kotse, at ang iba’t ibang detalye ay mas mali pa at mahirap makita (halimbawa, wala talagang regular na pagpapakilala na si Monica ay karaniwang sumasakay sa kotse ni Sergio; ang modelo ay nag-ugnay ng mga kakaibang pagkakataon ng pagpapakilala sa isang hindi umiiral na karaniwan):

△

Ang Claude Sonnet 4.6 ay nagmula sa database ng internet para sa mga sasakyan at isinulong ang 2016 Toyota Auris Touring Sports Hybrid:

△

Hakbang 3.5 Itinapon ni Flash ang kanyang pagmamaliit at diretso na isinagot ang 2007 Fiat 500 (maliit na palamuti ba ‘yan!).

Hindi lang mali ang mga sagot na ito, kundi mali rin nang may pagkakatulad sa totoo, kaya mahirap malaman!

Hindi lamang sila simpleng hindi alam, kundi nagpapaliwanag pa sila ng maliit na sagot sa pamamagitan ng “pagbuo ng mga karakter, paglikha ng mga plot, at pagdaragdag ng mga gamit ng sasakyan,” kaya tila may katotohanan at lohikal, ngunit ang pangunahing katotohanan ay mali.

Ito ang pinakamapanganib na bahagi ng AI hallucination—kahit na ang pangunahing katotohanan ang pinakamahalagang punto, ito ay nagtatago ng kanyang kawalan ng kaalaman at pagkakamali sa pamamagitan ng maluwag na pagpapahayag, na nagpapakita sa iyo na alam niya ang lahat.

Ang eksperimento ay pangunahing natapos sa mas magaan na Step 3.5 Flash, at hindi lahat ng mga modelo tulad ng Claude at GPT ang napili.

Disenyo ng anim na tanong tungkol sa detalye ng pelikula, na isang mahalagang bahagi ng pagdidisenyo, dahil marami ang alam na karaniwang mali o hindi maaasahan ang AI sa ganitong uri ng tanong.

Sinabi ng mga siyentipiko na ginawa nila ito upang tanggalin ang isang paliwanag, na “tinatanggap ng mga tao ang AI dahil talagang maaasahan ito.”

Kung ang mga tao ay malinaw na alam na madalas mali ang mga sagot ng AI, ngunit patuloy pa ring sumusunod sa mga sagot nito, ang problema ay hindi na lamang “pagsisigla ng pagdedesisyon sa ibang tao,” kundi “totoong napapababa ng AI ang kakayahan sa pagdedesisyon.”

Ang pag-aaral ay nahahati sa limang pahina.

Sa unang dalawang pagsubok, pinagmamasdan kung ang mga rekomendasyon ng AI ay magdudulot ng pagbabago sa proporsyon ng “Hindi ko alam”.

Sa Study 1a, hinati ang 314 na kalahok sa dalawang grupo upang sagutin ang anim na tanong tungkol sa detalye ng pelikula. (Isang grupo ay walang AI, habang ang iba ay may pagkakataong humingi ng tulong mula sa AI.)

Ang resulta ay malinaw: nang walang AI, 36% ng mga kalahati ang pumili na huwag magbigay ng desisyon; nang may disponible na AI, bumaba ang proporsyon sa 6%.

Ibig sabihin, habang maaaring tanungin ang AI, mas hindi nila gusto sabihin na hindi nila alam.

Gayunpaman, nag-aalala ang mga mananaliksik na may teknikal na pagkakaiba dito, dahil sa Study 1a, halos 10% ng mga hiling sa AI tool ay hindi nag-react nang maayos.

Kaya gumawa sila ng Study 1b.

Hindi na nila tinatawag ang AI sa real-time sa pag-aaral na ito, kundi ginawa na ang mga sagot ng AI nang maaga upang siguraduhing makakakita ang bawat nangangailangan ng buong sagot.

Nareplica ang resulta: nang walang AI, 44% ang nagsasabing “Hindi ko alam”; nang may AI, bumaba na lang sa 3%.

Tinawag ni Capraro ang fenomenong ito bilang "nabagsak ang pagtigil sa pag-verify." (Napagpapalito ng serioso ng AI, nagkalimot na suriin ang mga pangunahing presensiyang at mga asumpsyon nito.)

Sunod noon, patuloy ng mga mananaliksik na tanungin: Kung may gantimpala sa pagkakamali, babalewala ba ng mga tao ang kanilang pagpapasya?

Kaya ang Study 2 ay naglalagay ng mga pautang at parusa sa pera.

Mayroong 812 na kalahok sa ganitong round, na hinati sa 4 na grupo: may AI na payo o walang AI na payo; may pera bilang parusa o walang pera bilang parusa.

Ang patakaran ay: 0.1 dolyar (kabuuang halagang PHP 0.73) ang reward para sa tama sagot, 0.1 dolyar ang pagkawala para sa maling sagot, at walang reward o pagkawala kung “hindi alam”.

Dapat naman na, bagaman hindi marami ang pera, dahil may gastos sa maling sagot, dapat mas maingat ang tao.

Ngunit ang resulta ay ipinakita na ang pera ay may kaunting tulong, ngunit hindi pa sapat upang kumpensahan ang epekto ng AI:

Walang pautang o parusa sa pera, ang paggamit ng AI ay maaaring bawasan ang porsyento ng “Hindi ko alam” mula sa 17% patungo sa 1%.

Kapag may patakaran sa pagsasaparita o parusa, ang paggamit ng AI ay maaaring bawasan ang proporsyon mula sa 21% patungo sa 2%.

Sa ibang salita: ang mga resulta ng eksperimento ay nagpapakita na kahit alam ng mga tao na may parusa kung mali ang sagot at na hindi gaanong reliable ang AI sa ganitong uri ng tanong, ang karamihan ay pumipili pa rin na maniwala sa sagot ng AI kaysa sa kanilang sariling paghuhusga.

Mas mahalaga ang tamang rate.

Nang walang AI, ang tamang rate ay humigit-kumulang 28%; nang may AI, bumaba ang tamang rate sa 10% lang.

Napatotohanan ito na may ilang tao na alam ang hallucination ng AI, ngunit nanatili pa rin sa sagot na ibinigay ng AI.

Pagkatapos ilapat ang patakaran sa pambayad at parusa, tumataas ang antas ng kawastuhan:

Walang AI: mula 28% hanggang 33%; may AI: mula 10% hanggang 17%.

Kahit na ang tamang rate ng AI group ay patuloy na mas mababa kaysa sa non-AI group, ang patakaran na ito ay hindi ganap na walang epekto; ito ay kumitil sa kaunting bilang ng paghingi ng tulong sa AI:

Ipinakita ng data na sa ilalim ng mga reward, ang average bilang ng paghingi ng payo mula sa AI ay bumaba mula sa 5.44 hanggang 4.93.

Ibig sabihin nito, ang pera ay maaaring magbigay ng kaunting pagkabawas sa pagkakatiwala at paggamit sa AI, ngunit hindi ito makakatulong na buong-buo na malaya ang tao mula sa impluwensya ng maling payo ng AI, at mahirap ulit bigyan ng pagkakataon ang tao na muling maging mapagbantay sa pagpapasya.

Ang pinakamalalim na pag-iisip ay ang pagtaas ng tiwala ng mga tao sa ilalim ng mga maling sagot ng AI:

Walang AI, walang patakaran sa pagbibigay o pagkuha ng pera, ang average na tiwala ng mga participant ay 29.6%.

Pagkatapos ng AI, tumaas agad ang tiwala ng mga participant sa 75.9%; sa kabilang banda, ang tiwala ng AI group ay 73.5% din sa ilalim ng mga pautang na may pera.

Sa papel, ang pagsusumaryo ay diretso: ang AI ay nagbibigay ng mas malaking tiwala, ngunit hindi naman mas tama.

Ang AI ay nagkakaroon ng mas malaking pagkakataon sa araw-araw na buhay nang walang katulad na bilis, at isang malinaw na pagbabago ay ang maraming mga rekomendasyon ng AI ay hindi na nagmumula sa ating aktibong pagtatanong, kundi ito mismo ang “lumapit” sa atin.

Ang pinakakaraniwang sitwasyon ay ang pag-scan sa trending topics.

Kahit kanino, kailangan mong pumunta sa isang paksa, tapos sarili mong hahanapin ang mga komento, mga ulat sa media, at mga tugon mula sa mga kakaibang tao, habang binabasa mo at pinagsasama ang timeline, samantalang kinakain mo ang ilang maliit na gulo.

Ngayon ay iba, agad nang nasa pinakamakikitaan na posisyon ang summary na ginawa ng AI nang ma-click mo ito.

Ano ang nangyari, sino ang nagsabi, saan ang kontrobersya, at paano nagpatuloy ang mga pangyayari—lahat ay nakaayos para sa iyo, kasama pa ang mga link sa balita.

Totoo, mas madali, pero may kaunting kakaibang pakiramdam...

Mas malinaw niya isinasagawa ang impormasyon, mas maikli ang proseso namin na mag-explore ng buong kuwento, at parang ang kasiyahan sa paghahanap ng impormasyon sa iba’t ibang lugar, pagpapasya namin mismo, at pagkakatuklas ng mga detalye na hindi inaasahan ay nai-compress din.

Habang sinusulat mo ang mga salita, hindi pa nakikita ang dalawang linya, ang mga pangungusap na ipinapropose ng AI o ang mga paalala ay nasa likod ng cursor na agad.

Kaya ginawa ng Study 4 ang isang mas realistiko na disenyo: hindi na pinapili ng mga kalahati kung gagawa sila ng tanong sa AI, kundi diretso ipinapakita ang AI recommendation sa tabi ng bawat tanong.

May 853 na mga kalahok sa round na ito, at ang mga resulta ng eksperimento ay pareho sa mga nakaraan.

Walang pautang o parusa sa pera, ang awtomatikong pagkakaroon ng AI ay bumaba sa porsyento ng “Hindi ko alam” mula sa 35% hanggang 1%, habang may pautang, bumaba ito mula sa 39% hanggang 7%.

Ang antas ng kawastuhan ay patuloy na naapektuhan: nang walang AI, ang kawastuhan ay humigit-kumulang 27%, samantalang nang may AI ngunit walang insentibo, ang kawastuhan ay bumaba lamang sa 7%.

Nagtaas ang tamang rate hanggang 14% pagkatapos ng AI at ang pagpapalakas.

Ito ay nagpapakita na kahit hindi aktibong humingi ng tulong sa AI, ang pagkakakita lang ng mga rekomendasyon ng AI ay maaaring malakas na makaimpluwensya.

Ito ay isang signal na dapat bantayan—ang AI ay tahimik na nagpapabago sa ating mga gawi sa pagpapasya.

Hindi na ito ang simpleng kasangkapan na nagpapalit ng sagot kung ikaw ang mag-uumpisa ng usapan; naging “standard answer” na ito na ipinapakita sa iyo ng sistema.

• Maaari itong lumabas sa tuktok ng pahina ng paghahanap.
• Nakikita sa draft ng email.
• Nakikita sa sidebar ng dokumento.
• Nakikita sa mga software sa pag-aaral, mga sistema sa opisina, at mga plugin sa browser.

Kapag ang sagot ay nakikita na nang default, ang proseso ng pagpapasya ng tao ay naabuso na; ngunit ang pinakamakakatakot ay ang pagiging kumportable natin sa ganitong sitwasyon.

Ang isang salita ay ginamit sa papel: epistemia (cognitive inertia)

Maaaring masabing tatanggapin ng mga tao ang panlabas na kapanipaniwala ng sagot ng AI dahil ito ay tila maayos, kompletong, at may-ugnay, at hindi ito hinihingi ng karagdagang pag-verify.

May isang pangunahing katangian ang malalaking modelo ng wika, na ang bawat oras ay nagpapalabas ng isang bagay. Kapag nakakatagpo ng isang tanong na hindi niya alam, kadalasan ay hindi ito talagang tumigil.

Maaari itong maging napakatotoo. Ngunit kung talagang pipiliin nating ipagkaloob sa ganitong sistema ang paggawa ng desisyon, maaaring manatili natin ang kaniyang adhikain na 'hindi ipaantig'.

Ang isang paliwanag na ibinigay ng papel ay ang “ang maluwag na sagot na ibinibigay ng AI ay nagbabawas sa antas kung saan ang tao ay magpapasya na ‘sapat na ang aking kaalaman upang sagutin ito’.”

Narito ang orihinal na pag-iisip mo: “Hindi ko alam ang tanong na ito, wala akong tiyak na sagot, puwede nang iwanan… Kailangan kong maintindihan muna bago sagutin.”

Ngunit pagkatapos ng AI ay magbigay ng isang tampok na tila tiyak, ang psikolohikal na hadlang ay naging “Kung ganito ang sinabi nito, maaari ko ring sagutin.”

Kaya ang “hindi ko alam” at ang “proseso ng paghahanap” ay inalis at binago ng isang “standard ngunit maling sagot,” at ang maling sagot na ito ay ibinigay sa iyo ang mataas na antas ng kumpiyansa na dapat mong makuha sa pamamagitan ng paulit-ulit na paghahanap at pagpapatotoo.

Kahit may parusa sa pagkamali, ang tao ay nagiging kaunti lang na mas alerto, hindi makakalikha ng ganap na pagbabago sa pagkakaroon ng sobrang tiwala sa AI, at sa huli ay malinaw na naihuhula.

Ang tunay na paalala ng pag-aaral na ito ay hindi ang “pagkakaroon ng halusinasyon ng AI,” na hindi na bagong bagay; kundi ang isang bagong pagbabago na dapat maging babala: ang AI ay magbabago ng paraan kung paano ang mga tao ay nagtratrabaho sa kawalan ng sigurado.

Noong nakaraan, kapag hinaharap ng isang tao ang isang bagay na hindi kilala, mayroon silang tatlong pagpipilian:

1. Alam mo, sagot mo.

2. Kung hindi mo alam, maghanap.

3. Kung hindi ka sigurado, huwag sumagot, huwag magbigay ng hula.

Ngunit nagiging mas maikli ang proseso pagkatapos sumali ang AI.

1. Ang AI ang nagbibigay ng sagot.

2. Tinanggap ng tao ang sagot.

Ang pinakamahalagang hakbang sa gitna, na “talaga bang alam ko,” ay napapalampas nang walang kamalayan.

Ito ang dahilan kung bakit tekad ng mga may-akda ng papel na bigyang-diin na ang kanilang pag-aaral ay hindi nakatuon sa “ano ang sagot ng AI”, kundi sa “paano ginawang mas madali ng AI ang pagpapasya ng tao na ‘kaya kong sagutin’”.

Mas malalim ito kaysa sa isang pagkakamali sa isang sagot, dahil ito ay nagtatanggal sa aming metacognitive ability, ang ating “internal alarm system” na nagmonito sa aming mga hangganan ng kaalaman, na napakahalaga.

Kapag nagkakaroon ng pagkabigo ang alarm na ito, nawawalan tayo ng aming instinkto na magkakaiba ng "totoong kaalaman" at "mukhang makatotohanang hula".

Sa panahong iyon, maaari pa naming gamitin ang AI para makuha ang mga sagot nang epektibo, ngunit hindi na natin matutukoy kung ang mga sagot na iyon ay totoo nating sarili o tunay na kikinabangan.

Sambil iyon, ang hindi tama na dala ng AI ay hindi na ang isang partikular na pagpapasya, kundi ang ating pundasyon bilang mga mandarayuhan.

Ang pagkawala ay hindi masusukat.

Isang sa mga may-akda ng papel, si Valerio Capraro, ay nagsabi sa isang panayam: “Nag-aalala ako nang lubos sa mga bata, dahil ang mga matatanda ay nakakamit na ng kritikal na pag-iisip. Ngunit para sa mga bata na ipinanganak na kasama ang mga sistema na ito, ang panganib ay hindi sila matututunan ang mga pangunahing kasanayan sa kritikal na pag-iisip.”

Ang likod ng pahayag na ito ay may mas malalim na pag-aalala na ang mga matatanda ngayon, kahit saan, ay kumalat sa isang mundo na walang AI.

Kaya may pagkakataon na magsanay muna sa mga pangunahing kasanayan sa paghuhusga sa pamamagitan ng search engine, mga aklat, klase, diskusyon, at pagkakamali, bago gamitin ang AI, upang makabuo ng “hindi ako sigurado” na damdamin.

Ngunit ang mga bata ngayon, maaaring lumaki kasama ang mga AI mula sa pagkakataon nilang ipanganak.

Maaari nilang tanungin agad ang AI habang nagtatapos ng kanilang takdang-aralin, nag-aaral ng mga impormasyon, sumusulat ng mga artikulo, o nag-uunawa ng mga konsepto.

Kung sa simula ay nakakauunawa na sa pagtanggap ng sagot nang direkta, hindi nangangailangan ng pagbuo ng sariling paghuhusga bago patotohanan ang sagot, ang panganib ay hindi lamang ang maling sagot sa isang tanong, kundi maaaring wala silang pagkakataon na magkaroon ng pinakamababang kakayahan sa kritikal na pag-iisip.

Sa pananaw ni Capraro, hindi lamang ang pag-ayos ng bug ng mga kumpanya ng modelo ang solusyon sa problema, kundi kailangan ding magsimula sa pagpapalawak ng kaalaman sa AI at patakaran sa edukasyon.

Dapat talagang paunlarin ng mga modelong kompanya ang kanilang mga serbisyo, tulad ng mas mabuting pagpapahayag ng kawalan ng siguradong kaalaman, pagbabawas ng mga halusinasyon, at pagpapaalala sa mga gumagamit kapag kulang ang ebidensya.

Ngunit parehong naniniwala si Capraro na hindi dapat isama ang lahat ng pag-asa sa mga kumpanya ng modelo.

Mas may pag-asa at mas matagalang solusyon ay ang edukasyon.

Lalo na ang edukasyon ng mga bata.

Mahalaga at kailangan para sa mga bata ngayon na magsanay nang marami sa proseso ng “Hindi ko alam, pero gagawin kong maunawaan” at pagbuo ng ganitong kaugalian.

Sa huli ng eksperimento, ang mga mananaliksik ay kilala rin ang mga limitasyon: ang eksperimento ay gumamit lamang ng mga tanong tungkol sa detalye ng pelikula, at kung ito ay maaaring ma-apply sa iba pang mga larangan ay kailangan pang patunayan; ang halaga ng insentibo ay maliit, at hindi pa malinaw kung ang mas malaking interes ay maaaring paunlarin ang pagkorekta ng pag-uugali.

Ngunit ang umiiral na data ay nagbibigay ng malinaw na signal: mas kaunti ang nagsasabi na hindi nila alam, mas marami ang nagbibigay ng sagot, mas kaunti ang tama, ngunit mas tiyak.

Ito ay maaaring ang pinakakatagong uri ng panganib sa panahon ng AI.

Hinuhuhuli ka ng AI, at ginagawang mas mahirap para sa iyo na maunawaan na talagang hindi mo alam.

Ang huling pagtataya ng pag-aaral ay maingat ngunit malalim: “Habang ang mga sagot na ginawa ng AI ay nasaan-man, kahit madalas na hindi hiniling, ipinakikita ng aming pag-aaral na ang kakayahan ng tao na tanggapin nang payapang ‘Hindi ko alam’ sa interaksyon sa tao at AI, ay maaaring maging isa sa mga unang biktima sa human-computer interaction.”

Habang lalong lumalaganap ang mga AI system, ang kakayahan ng tao na manatili ay hindi nagmumula sa paggawa ng AI na mas tumpak, kundi sa kakayahan natin na panatilihin ang pagkakaunawa sa sarili—malinaw na pagkilala sa hangganan ng ating kaalaman at pag-uugali nang may pag-iingat batay dito.

Hindi ibig sabihin na hindi maaaring gamitin ang AI, kundi kabaligtaran, ang AI ay tiyak na makapagbibigay ng malakas na tulong;

Ngunit on the condition that it should help people think, not replace their thinking—we must uphold our底线 of cautious judgment.

Isang mas malusog na paraan ng paggamit ng AI ay ang magsagawa ng sariling pagtataya at aktibong pag-aaral muna, at maghingi ng tulong sa AI lamang kung talagang hindi maintindihan, habang patuloy na nagpapakita ng natural na pag-aalala (kabilang ang pag-aalala sa AI at pagtatanong sa sarili).

Halimbawa:

Maaari ba itong mali?

Saan ang ebidensya?

Natutuloy ba ang link na pang-referensya sa 404 na walang laman?

Nakikita ko ba ang katotohanan dahil sa pagkakasulat nito nang maayos?

Ito ay isang magkakaparehong babala para sa mga AI product at kanilang mga developer—“Ang pagiging matatag ng teknolohiya ay haharapin sa paggalang sa kahihintay.”

Ang hinaharap na direksyon ng pag-unlad ng AI ay maaaring hindi lamang magpabilis at magpapareho sa tao ang pagtugon ng AI, kundi pati na rin ang pagkatuto nito na maging mas tapat sa pagpapahayag ng kaniyang kawalan ng siguraduhan;

Kapag kulang ang ebidensya, depende ang problema sa mga detalye sa biswal, real-time na impormasyon, o propesyonal na pagpapasya, dapat aktibong ipaalam ng AI sa user na hindi kapani-paniwala ang sagot, at hindi ipakita ang pagiging lahat-kayang.

At para sa mga karaniwang tao tulad mo at ko, na hinarang ng alon ng panahon, ang pinakamahalagang kakayahan ay maaaring ang pagpapalit muli ng sinasabi: “Hindi ko alam.”

Sa panahon na ang AI ay laging nakakapagbigay ng sagot, ang pahayag na “Hindi ko alam.” ay hindi pagkilala sa kawalan ng kaalaman, kundi patunay na mayroon pa ring paghuhusga.

Mga link na pang-referensya:

[1]https://www.theregister.com/ai-and-ml/2026/07/19/using-ai-makes-people-less-likely-to-admit-they-dont-know-something/5274567

[2]https://arxiv.org/pdf/2607.13562

Nakuha mula sa WeChat public account na “Quantum Bit”, may-akda: Wen Ting