Alam ng mga tao na mali ang AI, ngunit ang pagmamalasakit ay maaaring hindi ang tamang paraan.May-akda ng artikulo, pinagkukunan: AIBase
Isang pag-aaral na isinuri ng Washington Post ay nagdala sa ilalim ng spotlight ang pagkawala ng memorya dahil sa AI. Ang propesor sa Media Lab ng MIT, Pattie Maes, kasama ang kanyang tim, ay unang ipinakita sa 200 na kalahok ang 24 larawan ng pang-araw-araw na mga pangyayari—kasal, tanawin sa kalye, at paligsahan.
Pagkatapos ng maikling pahinga, ang ilan ay muli nang tingnan ang orihinal na larawan, habang ang iba ay nakakita ng bersiyon na na-modify ng AI: nabago ang ekspresyon ng mukha, idinagdag ang mga sundalo sa larawan, o idinagdag ang mga pananagutan sa klima nang walang dahilan. Ang susunod na pagsusulit sa memorya ay nagbigay ng pagkabigla kay Mes: ang mga taong nakakita ng na-modify na larawan, mas mataas ang posibilidad na magkaroon ng maling memorya, at mas nakakatakot pa, mas tiyak sila sa kanilang mga maling memorya. "Lahat ng ito ay napakalaking panganib," ang kanyang pagtataya.
Hindi ito isang hiwalay na pangyayari. Ang mga eksperimento sa pag-unawa sa mga pangyayaring pampulitika, krimen, at kahit anumang bagong pelikula ay patuloy na nagpapakita na ang mga larawan at talakayan na ginawa ng AI ay maaaring i-weld sa isip ang mga detalyeng hindi nangyari, at gawing paniniwala ng isang tao na alaala niya ang mga imahinasyon—may mga tao na “nalalaman” na nakakita ng remake ng The Matrix na pinaglalabanan ni Will Smith, at may iba pang “nalalaman” na isang polusyon na hindi nagaganap. Pagkatapos makita ang isang video ng krimen, ang mga sumasali na tinanong ng isang AI chatbot ay may tatlong beses na higit pang maling alaala kaysa sa grupo ng kontrol.
Ang mga kakayahan ay inoutsourcing, at bumaba ang memorya at mental capacity
Mas nakakatagong kaysa sa "mali ang tandaan" ay ang "hindi gustong tandaan." Sa isang iba pang eksperimento ni Meis na kasalukuyang nasa peer review, 54 na kalahati ay sumulat ng mga sanaysay sa estilo ng SAT: isang grupo ay sumulat nang kamay, isang grupo ay gumamit ng Google, at isang grupo ay gumamit ng ChatGPT, habang ang mga elektrodo sa ulo ay nag-record nang sabay-sabay ng aktibidad ng utak. Ang mga resulta ay malinaw—ang mga manunulat na nagawa nang independiyente ay may pinakamalakas at pinakalawak na koneksyon sa iba’t ibang rehiyon ng utak, habang ang mga gumagamit ng ChatGPT ay may pinakamahina; pagkatapos, naging hinihingi sa kanila na muling sabihin ang kanilang sariling sanaysay, at ang mga nakasalalay sa AI ay halos hindi makalalabas kung ano ang kanilang sinulat. Ang pagtandaan ay nangangailangan ng atensyon, pagsisikap na subheto, at pagkuha ng impormasyon upang mapalakas, at ang generatibong AI ay direktang iniiwasan ang bahaging ito ng pag-iisip.
Si Nav at Xiao, mula sa Wharton School ng University of Pennsylvania at King’s College London, ay tinawag ang trend na ito bilang "pagkawala ng kasanayan": ang tao ay tumitingin nang paulit-ulit na hindi gumagamit ng mga kakayahan na maaaring palitan ng machine, at "naging isang opsyonal na bagay ang pag-iisip." Ang ebidensya ay nagsisimula nang lumabas sa mga propesyonal na larangan—ayon sa isang pag-aaral noong 2025 sa isang subjournal ng The Lancet, na nagmamasid sa 19 na karanasang doktor sa higit sa 1,500 na kolonoskopya, ang kanilang kakayahan na makakita nang sarili ng mga pre-kanser na pagbabago ay bumaba ng halos 20% matapos ang pang-araw-araw na paggamit ng AI. Ang pag-aalala sa mga bata ay mas pundamental: ang kanilang pangunahing kognitibong kakayahan ay hindi pa nabubuo, ngunit maaari nang maglabas ng kanilang mental na gawain, at kaya’y wala silang pagpapalakas ng kritikal na pag-iisip mula sa simula.
Sa AI Ethics Conference sa Malmö, Sweden, paulit-ulit na itinatanong ng mga akademiko: Ano ang epekto kapag ang AI ay nakikilahok sa memorya? Gumamit si Sim mula sa Georgetown University ng 331 tao sa isang eksperimento na may animation ng pagkakasakal: ang isang grupo ay binasa ang tumpak na AI summary, habang ang isa pang grupo ay binasa ang summary na may malinaw na mali sa pagkilala—ang tamang rate ay nasa halos 84% at 45%—kahit na binigyan na ng paalala na "ito ay isinulat ng AI," ang maling impormasyon ay patuloy na nakakaapekto. Ipinakita niya ang isang malupit na paradox: inaasahan natin ang "tao na pagsusuri" upang magsilbing pagsisilid sa mga pagkakamali ng machine, ngunit unang binago ng AI ang memorya na ginagamit ng tao para magpasya—ang pagsisilid na ito ay maaaring mawalan ng epekto mula sa ugat. "Alam ng lahat na mali ang AI, ngunit ang pagmamasid ay maaaring hindi magandang solusyon." Kapag ang mga kumpanya ay kumikilos nang mabilis upang ilagay ang AI sa mga police body cameras at sa pag-ayos ng medical records sa mga ospital, ang paalalang ito ay dumating sa tamang oras.