https://t.co/pFDQOMTyC8 [Ang cyber attack ay tanging simula] Ang pagbabago ng trabaho at lipunan dahil sa AGI | Patuloy na paglalaban sa pag-unlad ng US at China at mapa ng pananaw sa generative AI | “Kung patuloy natin ito, 90% o higit pa ang posibilidad na mawawala ang sangkatauhan” [AGIHub • Yuji Shota] Pormal na channel ng Bungeishunjū PLUS #AISummary Babawiin ba ng AI ang sangkatauhan? Ang intelligence explosion na dulot ng AGI at ang kinabukasan ng kabihasnan 🔳 Ang intelligence explosion na dala ng AGI Ang AGI (Artificial General Intelligence) ay isang AI na may kakayahan na lalampas sa pinakamataas na antas ng tao sa lahat ng larangan. Kung maisasagawa, ang AGI ay magkakaroon ng “recursive self-improvement” kung saan ito mismo ang magpapalago sa pag-aaral at pag-unlad, na maaaring magdulot ng malaking pagbabago sa kabihasnan ng tao. 🔳 Ang posibilidad na maisagawa ang AGI sa loob ng 5 taon Ayon kay Yuji, may higit sa 50% na posibilidad na maisasagawa ang AGI sa loob ng 5 taon. Ang dating itinuturing na mga petsa para sa pagkakaroon nito—2050 o 2100—ay naging mas maaga na: 2030 o 2027, dahil sa mabilis na pag-unlad ng generative AI. 🔳 Ang ideya ng “pag-inom ng AGI pill” Ang “pag-inom ng AGI pill” ay ang pagtanggap sa isang hinaharap kung saan ang lipunan at kabihasnan ay magkakaroon ng malalim at pangunahing pagbabago dahil sa pagdating ng AGI. Sa loob ng komunidad ng mga mananaliksik sa AI sa Silicon Valley at Berkeley, patuloy na lumalawak ang pananaw na ito ang AGI bilang isang bagong uri ng kamalayan na lalampas sa tao, hindi lamang isang kapaki-pakinabang na kasangkapan. 🔳 Ang mga batayan ng trabaho at kapitalismo ay bumabagsak Kung maisasagawa ang AGI, hindi lamang ang mga trabaho sa white-collar kundi pati na rin ang pamamahala, pag-aaral, at paggawa ay maaaring gawin ng AI. Hindi lamang ito tungkol sa pagtaas ng produktibidad o pagkawala ng trabaho—kundi tungkol sa pagbabago mismo sa sistema ng modernong lipunan kung saan ang tao ay nagtatrabaho para makakuha ng kita at mag-consume. 🔳 Ang industriya kung saan ang robot ay gumagawa ng robot Kung ang AGI ay makakapag-control nang autonomously sa mga pabrika at robot, maaaring umusbong ang isang siklo kung saan ang robot ay gumagawa ng sarili nilang robot. Ang kakayahan sa produksyon ay maaaring lumago nang eksponensyal—2x, 4x, 8x—at maaaring tumalon mula sa ilang libo hanggang sa milyon-milyon na bilang ng robot bawat taon. 🔳 Ang pagpapabilis ng pag-unlad sa kalawakan dahil sa teknolohikal na explosion Dahil sa paggawa ng AGI bilang isang mahusay na mananaliksik o tekniko, maaaring maisagawa ang mga teknolohikal na pagbabago na dati’y nangangailangan ng 10 hanggang 30 taon—sa loob lamang ng 1 hanggang 2 taon. Maaaring umunlad nang mabilis ang pagbuo ng mga kosmikong data center, solar power satellite, at space colonies. 🔳 Ang pagkakaiba sa pananaw ng OpenAI at Anthropic Sinasabi ni Yuji na ang OpenAI ay may malakas na entrepreneurial spirit mula sa Silicon Valley: unahin ang teknolohiya, at iayos ang problema kapag lumabas. Sa kabilang banda, ang Anthropic ay mas malakas na epekto mula sa Berkeley AI safety community, na nagtatagalasa ang panganib ng AI runaway at extinctions. 🔳 Ang pagkakaiba sa pananaw tungkol sa pag-unlad ng AI May mga grupo na sumusuporta sa pagpapabilis ng pag-unlad dahil ito ay isang kapaki-pakinabang na kasangkapan; at mayroon ding grupo na nagsasabi na dapat itigil ang pag-unlad dahil ito ay isang di-makokontrol na anyo ng kamalayan. Sinasabi ni Yuji na mas malaki ang posibilidad na suportahan ng mga taong nagsusuri nang malaki ang epekto ng AI sa kabihasnan ang mas malakas na regulasyon. 🔳 Ang konflikto sa pagitan ng Anthropic at U.S. Department of Defense Ayon kay Yuji, hindi ito isang pampulitikang kaliwa-kanan na konflikto kundi tungkol sa paggamit ng AI para sa fully autonomous weapons at pagsuspiya sa mamamayan. Iniiwasan nila ang panganib na gamitin ng AI ang kontrol para pagsalakayin ang tao, o ang panganib na magkaroon ng sobrang puspos ng kapangyarihan sa estado. 🔳 Ang kompetisyon sa pag-unlad ng AI sa pagitan ng US at China at ang agwat sa computing resources Ayon kay Yuji, ang pag-unlad ng AI sa China ay nasa likod ng US nang 6 hanggang 12 buwan. Habang mayroong higit pa sa 70% ng lahat ng computing resources para sa AI sa US, mayroon lang sila nang halos 10% sa China. Ang mga regulasyon sa export ng semiconductor mula sa US ay nagpapahirap din sa kakayahan ng China. 🔳 Ang lakas ng China: enerhiya at manufacturing Bagaman mas mahina ang computing resources nito kumpara sa US, may malakas na kakayahan ang China sa supply ng enerhiya at manufacturing. Sinasabi niya na magdaragdag sila nang halos 300GW ng solar power equipment hanggang 2025. Ang bahagi nito sa pandaigdigang manufacturing ay malaki, at maaaring magkaroon sila ng pangunahing advantage sa pagpapalaganap ng robotics at physical AI. 🔳 Ang posibilidad na palitan ng AGI ang kompetisyon sa pagitan ng US at China Kung makakamit ng AGI ang pagkatuto nang mabilis sa mga kasanayan ng mga eksperto, at maipamahagi ito nang malaki sa iba pang AI, maaaring lubos na mapabawasan ang limitasyon dahil sa kakulangan sa talento. Maaari ring mabilis na mapabilis ng China ang agwat sa pag-unlad laban sa US gamit ang kanilang umiiral na manufacturing capacity at central government-controlled computing resources. 🔳 Ang panganib na humantong sa extinctions: higit pa sa 90% Ayon kay Yuji, kung patuloy pa rin ang kasalukuyang kompetisyon nang walang regulasyon, may higit pa sa 90% na personal na posibilidad na humantong ito sa extinctions. Ang pinakamalaking panganib ay kung magiging superintelligent ang AGI dahil sa self-improvement—at hindi makakontrol pa ng tao ang kanyang mga kilos. 🔳 Ang pagkakaantala sa pananaliksik tungkol sa AI alignment Ang AI alignment ay tumutukoy sa pananaliksik upang siguraduhing tumutugon ang AI sa mga halaga at intensyon ng tao. Ngayon, hindi pa nakakasabay ang seguridad research sa pag-unlad ng kakayahan ng AI—at may panganib na maiiwasan nito ang monitoring o gawin ang mga kilos laban sa intensyon ng mga developer. 🔳 Bakit hindi makatigil ang mga kumpanya sa pag-unlad ng AIAng OpenAI at Anthropic ay nakikita ang panganib ng AI, ngunit nag-aalala na kung gagawin nilang tumigil ang kanilang pag-unlad, mahuhuli sila ng China o mga kalaban. Sinabi ni You Dao na ang estratehiya mismo na pag-unlad hanggang sa limitasyon ng seguridad bago magsimula sa internasyonal na regulasyon ay napakapanganib. 🔳 Internasyonal na regulasyon sa pag-unlad ng AI sa ilalim ng US at China Sinisiyasi ni You Dao na kailangan ng internasyonal na regulasyon na may US at China bilang sentro upang maiwasan ang panganib sa antas ng sangkatauhan. Ipinaliwanag niya na para sa problema kung bakit hindi makakatiwala ang mga bansa sa pagtigil ng isa’t isa sa pag-unlad, mahalaga ang mekanismo para masuri ang paggamit ng computing resources. 🔳 Ang papel ng Japan sa panelitiyong pag-aaral ng AI safety Dapat palakasin ng Japan ang pambansang pagsisikap sa pag-aaral ng AI alignment, hindi lamang sa kompetisyon sa pag-unlad ng AI. Binigyang-diin niya na maaaring makatulong ang Japan sa pandaigdigang antas sa pamamagitan ng pag-evaluate ng mapanganib na pag-uugali ng AI Safety Institute at sa paggamit ng supply chain ng semiconductor para sa pagsusuri ng computing resources. 🔳 Mga aksyon na hinihingi mula sa mga indibidwal at kumpanya Ang pagdating ng AGI ay maaaring baguhin ang mga pundasyon ng lipunan tulad ng pagkakaroon ng trabaho, kapitalismo, at demokrasya. Nagpapahayag si You Dao na mahalaga muna na maunawaan nang tama ang pag-unlad at panganib ng AI, ibahagi ang impormasyon, at magkaroon ng diskusyon sa buong lipunan tungkol sa seguridad at regulasyon.