May-akda: L. M. Sacasas
Isinalin: Deep潮 TechFlow
DeepChao Summary: Habang nagbibigay tayo ng mas maraming desisyon sa AI, ang sangkatauhan ay nagbuo ng isang "walang kamalayang layer" na malayong nasa pananagutan. Hindi ito isang sci-fi na banta ng superinteligensya, kundi isang mas lihim na pagbabago ng kabihasnan—mas marami tayong kayang gawin, ngunit mas kaunti ang kayang maintindihan. Ito ay isang babala para sa bawat propesyonal na nakasalalay sa mga kasangkapan na AI.
Sa simula ng ika-20 siglo, sinabi ng British mathematician at pilosopo na Alfred North Whitehead ang isang madalas na quote: "Dapat nating palaguin ang adhikain na isipin kung ano ang ating ginagawa—ito ay isang malaking mali na paulit-ulit sa lahat ng aklat at mga talumpati ng mga kilalang tao." "Sa kabaligtaran," sinabi niya, "ang pag-unlad ng kabihasnan ay nasa pagpapalawak ng bilang ng mahahalagang operasyon na maaari nating gawin nang walang pag-iisip." Tinawag niya itong isang metapora: "Ang pag-iisip sa mga operasyon ay parang pag-atake ng kabalyero sa digmaan—limitado ang bilang, kailangan ng mga bagong kabayo, at maaaring gawin lamang sa mga desisyon na sandali."
Malamay mong nakita ang sitwasyong ito. Totoo ito at nagdadala ng isang uri ng katotohanan. Ngunit sa palagay ko, laging tila maliit ang pananaw o hindi sapat ang pahayag na ito. Baka dahil madalas kong nakikita ang mga tao na ginagamit ang pahayag na ito upang ipagtanggol ang pagbibigay ng buong pagkakataon sa pagkilos ng pag-unawa ng tao sa mga makina, nang hindi sila masuri nang maayos ang gastos, o kaya ay hindi sila nakikita ang anumang gastos.
Sa pagiging makatarungan, ang pahayag ni Whitehead ay galing sa Introduction to Mathematics noong 1911, kung saan talagang tinatalakay niya ang mga kahusayan ng mga simbolo at tala sa matematikal na pagkalkula—kahit na sinabi niya na ang mga operasyong ito ay "walang pag-iisip," patuloy pa rin itong natututo at ginagamit ng isip na nag-iisip. Gayunpaman, dahil sa kanyang pagbanggit sa "kabihasnan" at ang kanyang makalangit na pagwawakas, malamang na nagdulot ito ng ganitong (mali) pag-unawa.
Hindi problema kung ang ilang pag-iisip na awtomatiko o ang ilang proseso ng isip ay eksternalizado sa ilang partikular na sitwasyon. Nasa totoo, naniniwala ako na mas kumbinsente ang argumento kung gagamitin ang pagkukumpara sa pisikal na gawain kaysa sa mental na gawain. Nawala na ang aking mga kasanayan sa paggalaw noong kabataan ko, ngunit ang aral ay nananatili. Halos lahat ng batang nagsisimula sa isang paggalaw ay nahihirapan: kailangan mong magpass ng maraming oras na tila sobra at nakakapagod, ulit-ulit ang paggawa ng mga pangunahin at paulit-ulit na pagsasanay. Paglalagay ng wax, pagpapalabas ng wax—naiintindihan ng mga nakakakita ng “The Karate Kid.” Ngunit nangyayari talaga ang dinamiko na ilarawan ni Whitehead: nag-aawtomatiko ka ng ilang pisikal na kilos upang maaari mong gawin ito nang walang pag-iisip. Tanging sa ganitong paraan, maaari mong maabot ang anumang kreatibidad o labis na kasanayan. Parehong nangyayari sa pagsasanay sa sayaw o pagtuturo ng instrumento. Ang awtomatikong paggawa ng mga pangunahing kilos ay isang mahalagang pundasyon upang makamit ang kahusayan.
Ngunit ang dinamikang ito ba ay magkakatulad sa lahat ng larangan ng tao? Mayroon bang mga sitwasyon kung saan ang paglabas sa ilang gawain ay nagpapahina, hindi nagpapalakas, sa mas mataas na kabutihan na itinadhana nito? O kaya, may mga "mababang antas" na gawain ba na may kasamang mga kabutihan na hindi natin gusto mawala? Kahit pa ba, tulad ng sa matematika, laging maaari nating hiwalayin nang madali ang mga partikular na sub-proseso mula sa isang ibinigay na proseso o gawain? Mayroon bang mga hindi mababahagi na buong gawain na magkakalbo kung subukan nating ibigay o awtomatihin ang anumang elemento nito? At gayunpaman, tulad ng nabanggit ko kanina, may pagkakaiba ba sa pag-awtomatize ng isip sa loob at sa ganap na panlabas o paglabas ng buong kognitibong gawain? Muling bumalik sa analogiya ng pisikal na gawain: kung may isang atleta na imahinahon na gamitin ang isang makina upang gawin ang lahat ng "maliit" na pagsasanay, upang maaari niyang direktaang pumasok sa kahanga-hangang bahagi ng laro—ang tao na ito ay hindi talaga makakarating doon. Ang mga tanong na ito ay mahalaga bago tayo madaling tanggapin ang mga pangako ng efisyensiya at kalayaan na ginagawa sa pangalan ng mga bagong teknolohiya.
Gayon man, hindi ako nakakaramdam ng kasiyahan sa madalas na citadong pagsasalaysay ni Whitehead tungkol sa awtomatikong pagkilala, maaaring dahil sa malaking pagkakaiba nito sa babala ni Hannah Arendt: dapat nating “isipin kung ano ang ginagawa natin.” Mas mauna si Whitehead sa pagkakasulat nito ng halos kalahating siglo kaysa kay Arendt, at hindi ko inisip na tinutukoy ni Arendt si Whitehead. Tanging ang dalawang pangungusap na ito ang nagkakaroon ng kontraryong tugon, at naniniwala akong mahalaga ang pagsusuri sa ganitong tensyon.
"Dapat nating gawing kaugalian ang pag-iisip kung ano ang ginagawa natin—ito ay isang malaking pagkakamali at isang pang-ulit na pahayag." — Whitehead
Kaya ang aking panukala ay napakasimple lamang: ang pag-iisip kung ano ang ginagawa natin." — Hannah Arendt
Kakaibang, ang konteksto ng paalala ni Arendt ay mas malapit sa ating kasalukuyang pag-aalala tungkol sa teknolohiya at pagkatao. Ang pahayag na ito ay galing sa panimula ng The Human Condition, na unang inilabas noong 1958. Ipinaliwanag niya:
Ang gagawin ko ay muling pagsusuri sa kalagayan ng tao batay sa aming pinakabagong karanasan at kamakailang takot. Ito ay malinaw na isang tanong ng pag-iisip, at ang pagkakawala ng pag-iisip—ang pagiging bulag at mapagpahalagang pagkakamali, ang pagkakalito sa pagkabigo, o ang pagkakaroon ng pagkakasumpa sa mga "katotohanan" na naging walang laman at pangkaraniwan—ay isa sa pinakamakapangyarihang katangian ng ating panahon. Kaya ang aking panukala ay sobrang simpleng: ito ay pag-iisip lamang kung ano ang ginagawa natin.
Ang "pinakabagong karanasan" na nag-udyok sa pag-aaral ni Arendt ay ang paglansad ng satalita at ang pagdating ng automatizasyon. Kahit na hanggang sa kamakailan, maaaring isipin ng mga tao na ang pag-aalala ni Arendt tungkol sa epekto ng automatizasyon sa paggawa ay mali, ngayon ay tila ang kanyang pag-aalala ay nangyari na lamang nang maaga.
Habang isinasaalang-alang ang pagkakaiba ni Whitehead at Arendt sa tanong na "Kailangan natin ng higit pang pag-iisip o mas kaunting pag-iisip?", natagpuan kong kapaki-pakinabang na magkaroon ng pagkakaiba sa pagitan ng pagbuo ng isang set ng walang kamalayang mga pagsasagawa upang palakasin ang mas mataas na kakayahan; at sa pagkakasakop sa walang kamalayang mga puwersa na hindi matatag na nagpapagalaw sa iyong pag-uugali, na maaaring magdulot ng pinsala.
Mayroon bang kritikal na punto o pagbabalik ng prinsipyo ni Whitehead? "Ang pag-unlad ng kabihasnan," sabi ni Whitehead, "ay nasa paglalawak ng bilang ng mahahalagang gawain na kayang natin gawin nang hindi nag-iisip." Ngunit kung may kritikal na punto ba? Kapag lumampas sa isang pahalang—kung ito ay bilang o kalidad—mababagsak ba ang kabihasnan dahil sa paglalawak ng bilang ng mahahalagang gawain na kayang natin gawin nang hindi nag-iisip? O kaya, magkakaroon ba tayo ng isang kabihasnan na lubos na iba sa ating nalalaman? Maaari nating malaman ang sagot sa malapit na hinaharap, dahil ang paggamit ng AI ay karaniwang nangangahulugan ng pag-automate ng ating pag-iisip, at paglikha ng isang malaking larangan ng walang kamalayang kilos sa mundo, na nagmumula sa panlabas na pag-iimbak ng ating personal at kolektibong alaala.
Inihaharap ni Arendt ang pagkakalito na kasabay ng paglago ng ating teknolohikal na kakayahan (na pangunahing ipinapaliwanag sa wikang matematika) kaysa sa ating kakayahan na maunawaan ito sa karaniwang wika, maaari nating mawalan ng kakayahang "isipin at talakayin ang mga bagay na talagang kayang gawin natin." (Ito ay nagpapakita na ang problema ng pagkakaintindi ay umiiral pa bago ang paglitaw ng mga malalaking modelo sa wika at mga algoritmo na "black box.") Sa isang bahagi na ngayon ay muli nang magkakaroon ng kahalagahan at urgensiya, sinasabi niya, "Parang ang ating utak—na bumubuo sa pisikal at materyal na kondisyon ng ating pag-iisip—ay hindi makakasabay sa mga bagay na ginagawa natin, kaya't mula ngayon ay kailangan nating gamitin ang mga artipisyal na makina upang isipin at magsalita para sa atin." Ito ay isang napakahalagang pampulitikang isyu. Sa ilalim ng ganitong kondisyon, hindi na tayo magiging sariling pamamahala sa anumang makabuluhang kahulugan. Ang pulitika, bilang larangan ng tao at binubuo ng pagsasalita, ay hindi na magiging umiiral.
Noong Pasko ng 1958, sa parehong taon na ipinakalabas ni Arendt ang The Human Condition, ipinakalabas ni W. H. Auden ang The Sons of Friday, na may mga taludtod na ganap na Arendtian:
Kapag nagmamasid tayo at nakakatagpo
Ang pagmamasid na nagmamasid sa sarili
Hindi nakakalungkot o malamig
kundi ang ganap na karaniwan
Kahit na ang mga kasangkapan na ito ay nasa kanyang kontrol
Makapagpapatotoo ng mga pangarap at kalaban ng mga pangarap
Hindi ito malinaw
Maaari itong gawin nang malinaw
Ang Oden at Arendt ay mga kaibigan, at sinulat ni Oden ang positibong pagsusuri para sa The Human Condition, ngunit hindi ko sigurado ang direksyon ng impluwensya.
Bagaman ipinaliwanag nang direkta ni Arendt kung paano tayo napunta sa sitwasyon na "malinaw na hindi maintindihan ang mga bagay na maaari nating malinaw na gawin"—ibig sabihin, kapag ang ating mga aksyon na pinapalakas ng teknolohiya ay hindi maaaring lubos na maintindihan ng ating pang-araw-araw na wika—mayroon pa ring isa pang interesanteng framework.
Ang mga gawain na hindi maipapaliwanag sa pamamagitan ng wika, kaya't hindi maipapaliwanag sa pamamagitan ng kamalayang isip, ay maaaring ipaliwanag sa pamamagitan ng walang kamalayan. Hindi ako isang uri ng tao na agad na umaasa sa wika ng walang kamalayan, ngunit maaari itong maging isang kapaki-pakinabang na paghahambing upang maunawaan ang ating ugnayan—maging bilang indibidwal o bilang isang grupo—sa mga aparato ng artificial intelligence na patuloy na nagtatagpo ng aming karanasan sa mundo.
Sa madaling salita, mayroon akong dalawang paraan upang ihambing ang ilang halimbawa ng consumer AI sa pagiging walang kamalayan. Ang unang paraan ay mas direkta: habang nagbibigay tayo ng mas maraming gawain sa mga AI agent sa antas ng indibidwal, organisasyon, at institusyon, nagbuo tayo ng isang antas ng aktibidad na functional na hiwalay sa aktibong pagpapasya at pagmamasid ng tao. At habang ang antas na ito ay structured at nagpapabago ng aming karanasan, ang proporsyon ng may kamalayang tao at walang kamalayang gawain ay nagpapaliit.
Malinaw na, kahit mula pa sa Industrial Revolution (o kahit higit pa sa noon), mayroon nang mga relatiwong hindi malinaw na sistema na gumagana sa mundo ng tao. Ngunit naniniwala ako na ang pagkakaiba ay ang mga sistema na ito ay relatiwong hiwalay sa araw-araw na gawain ng tao. Samantala, ang mga sistema ng artificial intelligence ay nagsisiguro na mas malalim na isasama sa aming karanasan. Sa maraming kaso, hindi lamang ito mga panlabas na puwersa na ipinaparito sa atin, kundi pati na rin ang mga proseso na inilabas at inisyal natin, na gumagawa para sa atin at bumabalik sa atin. Ito ang malapit na pagkakasalubong ng tao at makina ang nagpapaisip sa akin tungkol sa isang analogiya ng pagkakaroon ng walang kamalayan.
Ginawa ni Erik Hoel ang katulad na argumento gamit ang mas elegante na pagkakasulat at mas mahabang paglalahad. Ang kanyang konklusyon ay:
Ang tradisyonal na panganib ng AI ay karaniwang itinuturing bilang isang banta sa pagkakaroon o pagkawala dahil sa superinteligensya. Gayunpaman, maaaring iwasan nito ang tunay at mas subtil na panganib: ang AI revolution ay isang mekanismo na nagpapalitan ng proseso ng ating kabihasnan mula sa pagmamasid ng kamalayan patungo sa walang kamalayan. Ngunit kapag inalis ng AI ang kamalayan mula sa paggawa ng mundo, ginagawa nito ang mundo na mas hindi maipapaliwanag, mas kakaibang at mahirap maintindihan. Hanggang sa ngayon, ang "pagiging malansang ng shared space" ay patunay na ito ang pangunahing panganib ng revolusyon ng malalaking modelo ng wika. At habang lumalaki ang intelihensya ng mga sistema ng AI, lalo na kung mananatili sila (o malamang na mananatili) na walang kamalayan, mas malaking panganib ay ang pagbaba ng kahalagahan ng kamalayan sa kultura.
Paralelo sa ideyang ito ang aking napag-uusapan nang buo-buo sa loob ng sampung taon: ang digital na teknolohiya ay nagbabalik ng pagkamagkakamagandang kalikasan sa mundo sa isang ibang paraan. Ibig sabihin, ito ay nagiging maliwanag at mahirap maunawaan ang mundo.
Ang mga bagay na pinagbigyan ng teknolohiya ay tumutugon sa atin sa isang hindi maaaring iwasan na paraan, at kailangan nating makipag-ugnayan dito. Humihingi tayo ng tulong mula sa teknolohiya at nagtatanim ng pag-asa sa kanilang kapangyarihan. Takot din tayo sa teknolohiya at itinuturing natin ito bilang pinagmulan ng mga problema. Ang kapangyarihan ng teknolohiya na aming nakikita ay minsan ay mabuti, ngunit madalas din itong masama, na nagpapabagsak sa aming mga pagsisikap at nagpapalayas sa aming mga plano.
Ang mga teknikal na bagay ay may potensyal na magbigay-kapangyarihan sa atin, at minsan ay nagpapakalat ng pagkagulat. Isinasaalang-alang namin rin ang mga bagay at kapangyarihang ito bilang mahahalagang salik na nagpapasya sa aming kapakanan o kasamaan, na gumagana sa labas ng aming kontrol at nang hindi natin nauunawaan. Sa ibang salita, kahinaan natin ay nagmumula sa mga linya ng mga teknikal na distribuadong agente na tumatagpo sa aming kalooban at mga hangarin.
Ang pangalawang paraan ng paghahambing sa AI gamit ang pagkakaroon ng walang kamalayan ay maaaring medyo abstrak; payagan ninyong ipaliwanag. Sa Understanding Media, sinabi ni Marshall McLuhan na "kasabay ng pagdating ng elektrikong teknolohiya, napalawak ng tao ang sarili niyang sentral na sistema ng nervo, o isinilid ito sa labas bilang isang buhay na modelo." Muli at ulit niyang binanggit ang ideya na ang elektrikong midyum ay isang paglabas ng ating sistema ng nervo. Halimbawa:
Isang pangunahing katangian ng Panahon ng Elektrisidad ay ang pagbuo ng isang global na network na may malaking katulad na katangian sa ating sentral na sistema ng pag-iisip. Ang ating sentral na sistema ng pag-iisip ay hindi lamang isang network ng kuryente; ito ay bumubuo sa isang iisang magkakaisang larangan ng karanasan.
Hindi si McLuhan ang unang nagbigay ng ganitong pananaw. Noong 1950, sinabi na ni Father Pierre Teilhard de Chardin, isang Katolikong pari at paleontologo, na ang mga teknolohiya ng midyum ay bumubuo ng "totoong nervous system para sa sangkatauhan" at "isang maingat na pagbuo ng komon na kamalayan." Sa pamamagitan ng nagkakaisang network ng pagkakalkula at komunikasyon, lumalabas ang isang bagong antas ng realidad na sumasakop sa biyolohikal na antas. Ito ay isang teknolohikal na midyum na, iisang kamalayan ng sangkatauhan, na tinawag niya bilang "noosphere," at isinalarawan bilang "isang nakakagulat na makina ng pag-iisip."
(承认 ko na ito ay hindi karaniwang paraan ng pagsasalita ko, ngunit hayaan nating maglaro kaaliwan ng mga konseptong ito. Sa katotohanan, sinusubukan kong paniwalaan ka na ang pagtingin sa AI sa pamamagitan ng psikoanalisis ay maaaring isang kapaki-pakinabang na pananaw.)
Ang elektrikong midyum ay nagpapalawak ng aming kakayahang makaramdam ng mundo, dala ang malalayong pangyayari sa aming mga mata at tenga, at pinapaliit ang oras ng pagpapadala ng impormasyon hanggang sa halos instant. Ngunit mula pa noong panahon ni de Chardin at McLuhan, lumabas na ang iba pang bagay: ang malaking paglago sa kakayahang mag-imbak o mag-alaala ng data. Kaya habang ang elektrikong midyum ay nagpapalawak ng aming nervous system, sa huling panahon ay ito rin ang nagpabilis sa pagkuha at pag-imbak ng hindi naunang dami ng impormasyon sa anyo ng teksto, imahe, video, atbp. Ang aming nervous system ay napagpapalawak ng isang malaking digital na memorya. Ito ang digital na memorya ang nagbibigay ng sustento sa mga malalaking modelo ng wika, na ngayon ay halos naging kapalit ng artificial intelligence.
Ang malaking koleksyon ng kaalaman at kultura ng tao ay karamihan ay ang internet, o kaya naman, ang internet ay ang paraan kung paano ito naging maabot para sa atin. Dahil dito, ang teoryado ng digital na midyum na si Gregory Ulmer noong mga unang taon ng 2000 ay tinawag ang internet bilang "prosthetic ng ating kolektibong walang-alam."
Sa tingin ko, ang ibig sabihin ni Ulmer ay ganito. Palagi tayong mga sosyal na hayop, ibig sabihin, tayong mga kultural na pangkalahatang nilalang. Ngunit ang karamihan sa mga bagay na nagpapakita sa atin, lalo na noong bata tayo, ay karaniwang nawawala sa ating kamalayan habang dumadaloy ang panahon. Gayunpaman, ang internet bilang prostesis ng hindi kamalayang dimensyon sa pagbuo natin bilang mga sosyal na nilalang, ay nagagawa nating maabot ang ating kolektibong kultural na alaala. Ang internet ay isang malaking web na binubuo ng mga kultural na gawa, simbolo, imahe, teksto, at iba’t ibang bagay na pangkalahatan na nagpapakita sa ating buhay, at ang kanilang pagkakasunod-sunod ay hindi batay sa linyar na lohika kundi sa isang halos tulad ng pangarap na lohika ng pag-uugnay, na katulad ng teorya ng psikoanalisis tungkol sa hindi kamalayang tao.
Naniniwala si Ulmer na ibinibigay nito sa atin ang isang malalim na pagkakataon. Sa pamamagitan ng paggawang maaaring i-refleksyon ng kolektibong walang-katauhan, maaaring maabot ng pag-iisip na malinaw, mayroon tayong paraan upang lutasin ang mga malalim na kawalan ng pagkakita na karaniwang nasa gitna ng aming karanasan. Walang kailangang sabihin, hindi ako sobrang optimista tungkol sa ganitong posibilidad. Ngunit anuman ang iyong pagtataya sa optimistiko mong pananaw ni Ulmer—pinag-iisip ko ito nang malaki, ngunit sana ay hindi ko ito nagawa nang hindi makatarungan—sa tingin ko, ang paglitaw ng komersyalisadong AI batay sa chat ay talagang nagdadala sa atin sa isang napakalaking iba’t ibang direksyon.
Kakaibang, ang pagpapakilala ng isang interface ng pang-araw-araw na wika sa pagitan ng atin at ng digital na kolektibong walang-alam ay nagiging sanhi ng mas malalim na pagkakapal at pagkakalito. Ang interface ng chatbot ay nagre-reconstruct ng ating kakayahang mag-navigate sa kolektibong walang-alam, at maaaring sabihin na ito ay naging isang kontratherapist na nagtatanggal sa atin mula sa pagkakakilala at pag-unawa (anuman ang kalaliman o kagulitan nito) patungo sa isang komportable at nakapagpapaliwanag na pagkakataon. Ito ay nag-aalok ng isang maliit na pagkakalinaw na nagpapakulong sa atin sa sariling kaligayahan, nagpaprotekta sa atin laban sa pagdududa sa sarili, laban sa pagtigil nang matagal sa pagkakaroon ng kamalayan tungkol sa ating sariling kawalan ng kaalaman, o sa mga nakakatakot na kawalan ng siguraduhan. Ito ay nagtatago sa kaguluhan ng gubat ng tao, at nagpapaliwanag ng isang sadyang malinaw na daan patungo sa pangako ng kaalaman at karunungan. Ngunit sa paraang ito, ito ay malambot ngunit tiyak na bumabalik sa atin sa walang-alam. Baka rito nagsisimula ang psikiyatrikong AI.
Anuman ang ugnayan sa psikosis ng AI, mahalagang isipin: ang kamadalian, pagkawala ng enerhiya, pagkakaroon ng kompulsyon, agresyon, anxiety at pag-asa na nasa aming pampubliko at kolektibong pagkakakilanlan, ay bahagyang nagmumula sa pagliko ng tao na kamalayan sa harap ng isang bagong anyo ng kolektibong walang-kamalayan na bumabangon muli sa anyo ng artificial intelligence.
Ang non-human layer ng mundo ay nagsimula nang bumuo bago pa man lumabas ang agent AI. Ang mga proseso ng algorithm ay nagsisimula nang bumuo ng mga elemento ng human experience, lalo na sa konteksto ng birokrasya.
Hindi ko sigurado kung kailan at sino ang unang nagtatag ng konseptuwal na ugnayan sa pagitan ng kuryente, ng sistema ng mga selula ng nerbiyo, at ng isip, ngunit sa kaniyang nobela noong 1851 na The House of the Seven Gables, sinulat ni Nathaniel Hawthorne: "At ang kuryente, ang diablo, ang anghel, ang makapangyarihang pisikal na puwersa, ang lahat-kasamaang intelehensiya!" at: "Ito ay katotohanan—o baka ito ay aking napanaginip—na sa pamamagitan ng kuryente, ang pisikal na mundo ay naging isang malaking nerbiyo, na nagsisigaw sa loob ng libo-libong milya sa isang paghinga? Mas tumpak na sabihin, ang bilog na mundo ay isang malaking ulo, isang utak na puno ng intelehensiya! O, dapat nating sabihin, ito ay isang isip lamang, isang isip lamang, at hindi na isang bagay na gaya ng ating inaasahan!"