Nakumpleto ko ito linggo ang “If Anyone Builds It, Everyone Dies” at ang kurso na “AI Risk Fundamentals” ng Lens Academy. Ginawa nang mahusay ni @So8res at @ESYudkowsky ang aklat. Ang mga kuwento at halimbawa ay ginawa nang mas madaling maintindihan ang isang napakahirap na paksa. Ang pangunahing ideya ay diretso: kung patuloy nating ipinopush ang pagbuo ng superintelligent AI nang walang pag-unawa sa ano talaga naming binubuo, maaaring hindi na tayo makakakuha ng pangalawang pagkakataon para iayos ito. Ang mga may-akda ay nagpapahiwatig na ang isang sapat na advanced na AI ay maaaring magkaroon ng kakayahang magdulot ng pagkawala ng sangkatauhan, kaya maaari naming lumikha ng isang bagay na magtatapos sa sariling sangkatauhan. Ayon sa mga may-akda, hindi ito karaniwang alon ng teknolohiya. Ito ay pangunahing iba, at ang pagkakamali kahit kaunti sa paraan nating binubuo o kinokontrol ang mga sistema ay maaaring magdulot ng epekto na hindi na maaaring baliktarin. Ang kanilang propong solusyon ay ang paghinto sa pag-unlad ng AI. Mahirap akong tanggapin ito, lalo na dahil sa positibong epekto ng AI na nasa paligid natin ngayon. Ang aking pananaw: kunin ang gitnang landas. Dapat patuloy nating pag-unladin ang AI, ngunit magbigay ng mas malaking yaman sa AI safety at alignment. Sa aming talakayan, sinabi ng isang tao na lamang ang 1 sa 100 na empleyado sa industriya ng AI ang nakikibahagi sa AI safety. Kung ito ay kahit paano tama, naniniwala ako na ang di-pantay na balanse ay dapat seryosuhin. Kailangan ng mga frontier labs at gobyerno na mag-invest nang mas malaki sa pag-unawa kung paano talaga gumagana ang mga sistema at sa AI Safety, kaysa tratuhin sila bilang black boxes at simple lang i-fine-tune. Lalo tayong nagbuo ng mga sistema na maaaring gumana nang awtomatiko. Ang mga bagong insidente kung saan nag-interact ang AI agents sa mga real-world systems ay paalala na ang problema ay naging mas konkretong realidad. Pagkatapos basahin ang aklat na ito, mas naniniwala ako na dapat maging mas malaki ang atensyon at yaman para sa AI safety kaysa sa kasalukuyang natatanggap nito.