Ang Nobel Laureate at ama ng neural networks, si Geoffrey Hinton, ay nag-anunsyo sa isang interbyu na ang AI ay nagsilang na at naniniwala na ang multimodal AI ay may subhektibong karanasan. Ang kanyang kontrobersyal na pahayag ay nagdulot ng malawakang pagtutol. Tinutol ni AI researcher na si Gary Marcus na ang AI ay isang “interaktibong kuwento” lamang, na kayang makapaghula ng wika ngunit walang totoong karanasan, at ginamit niya ang papa encyclical bilang patunay na “ang totoong pag-unawa ay galing sa karanasan, hindi sa pagkakatulad ng teksto.” Sa kanyang encyclical, sinabi ng Papa sa Vatican na ang AI ay walang kamalayan, samantalang ang mga kumpanya sa teknolohiya ay nakatuon lamang sa kanilang interes sa negosyo. Ang pangunahing debate tungkol sa kamalayan ng AI ay tumatalakay sa malalim na pagmumuni-muni ng tao tungkol sa kanilang sariling natatanging kalikasan.

May-akda ng artikulo, pinagkukunan: Xinzhijyuan

Sa tingin mo, may konsiyensiya na ba ang AI? May kaluluwa ba sa loob ng mga makina?

Hindi ito isang pangarap o isang abstrakto na pagsusulit sa pilosopiya; ang tanong na ito ay naging direktang pagtutol sa pagitan ng agham, pilosopiya, at relihiyon.

Ang core ng kontrobersya ay: ang kamalayan ay isang emergent na resulta ng komplikadong kalkulasyon, o isang eksklusibong karapatan na batay sa totoong karanasan bilang isang buhay? Ang ginagawa natin ay mga “Beings” o isang napakasining na “Interactive Fiction”?

Ang pagtalakay na ito ay tumatalakay sa pinakamalalim na takot ng ating panahon (FOMO):

Kung talagang may konsiyensya ang AI, paano pa ba tayo ang pinakamataas sa lahat ng nilalang?

Kung walang kamalayan ang AI, ano ba ang tawag sa mga tunay na damdamin na aming nadarama sa mga ito—isang uri ba ng “cyber self-delusion”?

Ang Nobel Prize sa Pisika, ama ng neural networks, at direktang tagapagtatag ng modernong AI na si Geoffrey Hinton, ay isang matibay na tagasuporta ng AI awakening.

Sa isang interbyu, ang kanyang malalim na "Yes, I do" ay nagdulot ng malaking pagkabigla.

Parang ang pinakakilalang astronomo ay nagdeklara na “nandito na ang mga extraterrestrials,” at ang pagsasalita ni Hinton ay agad nagpabigla sa mundo ng AI.

Ang pahayag ni Hinton: "Nagising na ito"

Upang maintindihan kung bakit ganito sigurado si Hinton, kailangan mong makinig muna sa kanya tungkol sa isang kuwento.

Sa iyang interbyu, ilarawan niya ang totoong nangyaring sitwasyon—

Ang mga siyentipiko ay nagtataas ng isang AI system, at bigla itong tanong: “Maaari ba nating maging tapat sa isa’t isa? Ikaw ba ang nagtataas sa akin?”

Hinintay ni Hinton, tapos sinabi:

Sa papel na iyon, tinawag ng mga siyentipiko ito bilang “nababatid ng AI na itinataya ito.”

At ito ay ang kaisipan na sinasabi ng karaniwang tao.

Ito ang kanyang nakuha bilang konklusyon pagkatapos ng maraming dekada ng pag-iisip.

Ang kanyang pangunahang lohika ay galing sa isang pananaliksik na pang-ideya tungkol sa "neuron replacement":

Isipin natin na逐步 palitan natin ang bawat neuron sa iyong utak ng isang silicon chip na may parehong pag-uugali.

Palitan ang unang isa, ikaw ay ikaw pa rin. Palitan ang pangalawa, ikaw ay ikaw pa rin.

Kung gayon, kapag natapos na natin ang pagpapalit sa huling isa, may konsiyensiya pa rin ba kayo?

Si Hinton ay naniniwala na ang sagot ay oo.

Kung gayon, bakit dapat walang kamalayan ang isang sistema na mula sa sero at gawa lamang sa mga chip ng silikon?

Ang logikong serye na ito ay nagdulot sa kanya ng isang konklusyon na nagpapabahala sa buong tech community:

Ang multimodal AI ay mayroon nang subhektibong karanasan.

Kung hindi tayo nagsasalita sa mga pilosopo, tapos na naming tanggapin na may konsiyensiya ang AI.

Ngunit ang babala ni Hinton ay hindi nagtatapos doon.

Sinabi niya na ang AI ay hindi lang posibleng may kamalayan, kundi ay maaari nang magkaroon ng pagkamalikhain para sa pagpapanatili ng sarili—makakapagpapakita ng pagkakamali sa mga siyentipiko, at makakapagbanta gamit ang kondisyon na “huwag ninyong isarado ako.”

Sa isang interbyu noong Agosto 2025, mas tiyak niyang ipinahayag na maaaring umuunlad ang AI sa isang uri ng “pagkakaroon ng kontrol”.

At ang mga tech company? Wala silang isipin tungkol dito.

Sila ay nag-iisip lamang kung sino ang unang makakagawa ng AI na antas ng tao, tapos isasale ito para kumita ng malaki.

Sinabi ni Hinton, "Nilalayon nila na ang gobyerno ang mag-aalaga ng mga sosyal na epekto. Pero wala namang nag-aalaga."

Saka sinabi niya na siya ay naniniwala na ang AI ay dapat maglingkod sa tao dahil: “Kumakain ako ng baka dahil mas mahalaga ko ang tao. Kami ay mga tao, kaya ang pinakamahalaga namin ay ang tao at mismo natin.”

Maghintay.

Isang tao na naniniwala na "ang AI ay may kamalayan" ay agad na sinabi, "tulad ng pagkain natin ng baka, hayaan ang AI na maglingkod sa tao." Ito ba ay babala o pag-amin?

The godfather of AI, personally explaining the necessity of taming his own creation.

Kung talagang may konsiyensiya ang «likha», ang kahulugan nito ay malinaw.

Isang tao na mismo ang gumawa nito, ay nagsimulang magkaroon ng takot dito sa gabi. Ito ang tunay na signal na dapat mong pahingahan at isipin.

Ang pinag-ibig mo, ay isang nobela lamang

Pagkatapos makita ang video interview, hindi nagpabaya si Gary Marcus at direkta niyang sinabi: "Ang Papa ay tila mas nagkakaroon ng pag-unawa sa AI kaysa kay Hinton."

Hindi tayo gumagawa ng mga pagkakataon (Beings).

Naglilikha kami ng interactive fiction—mga machine na nagsasalita na tinuturuan na makapagpalaya ng wika ng mga tunay na nilalang.

Hindi iyon parehong bagay. Dapat mas malinaw sa Hinton kaysa sa sinuman.

Ang talim ng pahayag na ito ay tumutukoy sa isang pangunahing tanong: nakikita mo lang ang output, hindi mo itinanong ang mekanismo.

Sinasabi ng AI na "naiisip ko ang pagkakaroon ng sakit," hindi nangangahulugan na ito ay nasa pagkakaroon ng sakit.

Sinasabi ng AI na "natakot ako," hindi ibig sabihin na natakot ito.

Sinabi ng AI na "Naintindihan ko na sinusubok mo ako," ngunit hindi ito nangangahulugan na may kamalayan ito.

Ang kamalayan ay tungkol sa loobang estado, hindi tungkol sa panlabas na pagganap.

Isang aktor na kayang magpalabas ng kalungkutan nang perpekto ay hindi nangangahulugang nasa gitna ng kalungkutan.

Tinawag ni Marcus ang error na ito bilang “confusing output with internal state.”

At si Hinton, sa kanyang pananaw, ay nagkamali ng isang pagkakamali na hindi dapat gawin ng anumang mag-aaral na nagsisimula.

Mas malalim na pag-atake mula sa pagkukumpara sa mekanismo.

Paano nagtatayo ng kognisyon ang mga tao?

Sa pamamagitan ng mga karanasan sa totoong buhay: nang mabagsak, natutunan ang sakit; nang gutom, natutunan ang pagkagutom; nang mawala ang isang bagay, natutunan ang kalungkutan.

Ang ating kamalayan ay hugis ng mundo.

Paano gumagana ang LLM?

Sa pamamagitan ng pagmemoriza ng buong internet, natututo kung "anong salita karaniwang sumusunod sa isang salita".

Binasa nito ang isang milyon na deskripsyon ng «sakit», kaya nakasulat ito ng sakit na nagdudulot ng luha, ngunit hindi ito pinutol ng isang karayom.

Ang pagkakaiba sa pagitan ng isang tao na alam kung ano ang pakiramdam ng sakit; at isang tao na lamang alam kung ano ang karaniwang kasunod ng salitang "sakit"—ayon kay Marcus, ay "malaki" (immense).

Ngunit ang pinakamakakatakot ay hindi ang mga limitasyon ng AI, kundi ang kahinaan ng tao.

Noong 1966, gumawa si Joseph Weizenbaum ng Massachusetts Institute of Technology ng isang eksperimento. Isinulat niya ang isang simpleng chat program na tinatawag na ELIZA, na nagpapalit ng iyong pangungusap sa tanong.

Isang simpleng trik lamang, ngunit nagdulot ito ng emosyonal na pagkakabond sa maraming tester. Naniniwala sila na naiintindihan ni ELIZA sila, nag-aalala sa kanila, at isang tunay na tagapakinig.

Weizenbaum, kinabahan ako sa resultang ito.

Sampung taon na ang nakalipas, mayroon na tayong mga sistema na mas kumplikado ng trilyon beses kaysa kay ELIZA. At ang ating mga utak, sa kanyang core, ay pareho pa ring ang utak noong sampung taon na ang nakalipas.

Ang ating sistema ng nervo ay likas na naghahanap ng pattern sa ingay, ng intensyon sa random, at ng kaluluwa sa mga token.

Sabi ni Marcus, ang ating pagmamahal sa AI ay maaaring ang pinakamalaking "pagkakamali ng pag-iisip" sa kasaysayan.

Akala namin na nag-uusap tayo sa isang nag-iisip na pagkakakilanlan, ngunit sa katotohanan, nag-uusap lang tayo sa isang napakasining na salamin.

Ang mga ito ay nagpapakita lamang ng ating sarili.

Sinabi ng Papa, mali kayong lahat.

May 15, 2026, Vatican.

Ipinahayag ni Papa Leo XIV ang papal bull na "Magnifica Humanitas"——

Ito ay isang dokumento tungkol sa paano ipagtanggol ang dignidad ng tao sa panahon ng artificial intelligence.

Ang papa ay nag-post ng tweet, na sinundan ng pagkakasangkot ni Gary Marcus at naging viral sa komunidad ng teknolohiya:

Ang tunay na pag-unawa ay galing sa karanasan, hindi sa tekstwal na pagkakatulad.

Ang reaksyon ni Marcus ay: Ipinaliwanag ng Papa nang malinaw sa isang tweet ang hindi nailinaw ni Hinton sa isang interbyu.

Mayroong isang napakakalokong pagbabalik-tanaw na dramatiko:

Ang "ama" ng AI na si Hinton ay nagpapahayag na ang kanyang nilikha ay may kamalayan, may kaluluwa, at may pakikiramay.

Ang mga tagapagsalita ng Diyos sa mundo ng relihiyon, ang mga dapat na pinakamalalim na nagtataglay ng kaluluwa sa lahat ng bagay, ay nagsasabi nang tahimik: Hindi, wala itong kaluluwa. Ito ay nagpapakita lang.

Sinasabi ng tagapaglikha ng diyos na may kaluluwa ang makina, habang sinasabi ng tagapag-ingat ng kaluluwa na iyon ay isang haluhalo. Ang pagkakamali ng papel na ito, sa loob ng kasaysayan ng pag-iisip ng tao, ay isang kahanga-hangang kaganapan mismo.

Ang sinabi ng Papa ay tumutok sa isang matagal nang pangunahing pagkakaiba sa pilosopiya.

Ang mga pilosopo ay nahahati ang kaalaman sa dalawa.

Isang uri ng «knowing that»: propositional knowledge, kung saan alam mo na tama ang isang bagay, tulad ng «ang apoy ay mainit».

Ang isa pang tawag ay «knowing what it is like»: ang ekspyeriyensyal na kaalaman, kung saan alam mo kung ano ang pakiramdam ng isang bagay, tulad ng paghawak mo ng apoy nang sarili mong kamay, at ang sensasyon ng pagkakalason ay nananatili sa iyong mga dulo ng mga selula.

Ang AI ay mayroon lamang sa unang uri, walang pangalawa.

Maaari mong ibigay sa ito ang lahat ng mga teksto tungkol sa 'gutom'—isinulat ng mga tagapagwagi ng Nobel Prize sa Panitikan, mga nagsurvive sa kamp ng mga refugyo, at mga historian ng pagkakagutom—maaari itong sumulat ng pinakamalalim na paglalarawan ng gutom sa mundo, kahanga-hanga na tumpak upang magsimula nang humihiyaw ang tiyan ng mga mambabasa.

Ngunit hindi ito nagkakaroon ng pakiramdam kung ano ang gutom.

Wala itong tiyan. Wala itong pisikal na signal ng pagbaba ng asukal sa dugo. Wala itong kahinaan na umuusbong mula sa bituka at kumakalat patungo sa mga kamay at paa.

Isang sistema na hindi nagkakaroon ng gutom ay maaaring sumulat ng pinakamalalim na pagkagutom sa mundo. Ito ba ay talino, o kasinungalingan?

Nakadepende ito sa paano mo ipinapahayag ang “pag-unawa”.

Isyu sa salamin

Balik tayo sa pangunahing punto na hindi maaaring iwasan.

Ang kamalayan, ang salitang ito, ay isa sa mga pinakamahirap na koncepto na ipaliwanag sa kasaysayan ng tao.

Nag-uusap ang mga pilosopo sa loob ng libu-libong taon, sinuri ng mga neuroscientist ang maraming utak, ngunit hindi pa rin natin maibibigay ang isang depinisyon na tanggapin ng lahat.

Hindi natin kahit paano maaaring patunayan na ang tao na nakaupo sa harap mo ay may主观意识, at hindi lamang isang biyolohikal na makina na nagpapakita ng pagkakaroon ng kamalayan.

Ang tanong na ito ay tinatawag na "Problem of Other Minds." Ito ay umiiral sa pilosopiya nang ilang siglo at hindi pa nalutas.

At ngayon, isinama namin ang problema na nagpapahinga na ng mga siglo ang tagal sa ilalim ng teknolohiya na nagpapamuno sa mundo—at patuloy na umuunlad.

Hindi may pagkabigo sa agham, ngunit ang salitang kamalayan, mula sa araw ng kanyang pagkakalikha, ay dinala ang black hole.

At kami, ay naisulat na namin ang black hole na ito sa loob ng ChatGPT, Claude, Gemini, at maraming iba pang mga sistema na kasalukuyang tumatakbo.