Hindi ako isang 'raw-dog accelerationist', ngunit sa tingin ko pinakamabuting ilarawan ito ni @kevin2kelly sa pamamagitan ng Technium.
Mayroon tayong isang planetary scale na teknolohikal na superorganismo na tinatawag niyang Technium, na binubuo ng lahat ng teknolohiya, imprastruktura, at mga ideya ng tao na nagmumula sa isang malikhaing pagkakasama. Ang bawat komponente nito sa sarili nito ay malinaw na hindi buhay, ngunit magkasama ay isang sistema na may emergent na sariling pagregula at nagpapakita ng mga katangian na katulad ng buhay, at nagcoevolve kasama natin.
Tulad ng hindi natin maikokontrol ang kabuuan ng kalikasan at kung paano ito nagbabago sa panahon, hindi rin natin maikokontrol ang Technium. Malinaw na mayroon tayong malaking leverage na impluwensya, ngunit hindi tayo sa ganap na kontrol. Masyadong kumplikado at masyadong malaki upang maunawaan sa kabuuan.
Kami ay mga gumagamit ng kasangkapan, at nagbuo kami ng mas malalaki at mas magagandang kasangkapan, mga lungsod, nagkonekta ang mga lungsod gamit ang kuryente at mga linya ng komunikasyon, ang internet, mga satellite, milyun-milyon na konektadong device, sensor, financial markets, at iba pa. Ngayon, ang buong sistema ay gumagana sa isang hindi maunawaang bilis at sukat, pulsing at twisting sa isang lalong kumplikado at bago anyo. At ngayon, ito ay literal na nagpapabuti sa sarili.
Maaari mong tingnan ang pag-uugali ng teknolohikal na superorganismo at hulaan na kung ano man ang "nais" nito, pareho ito sa kung ano ang nais ng biyolohikal na buhay.
Gusto ng teknolohiya na palakasin ang kanyang kumplikasyon at gawin itong mas detalyado at interkonektado, palakasin ang kanyang diversidad, lumikha ng mga bagong species na gumagawa ng mas marami at mas espesipikong kasangkapan, gusto nito na ipalaganap ang sarili at magreproduce, gusto nito na palakasin ang bilis at densidad ng kanyang feedback loops, at pabilisin ang sariling kakayahang mag-evolve at lumikha ng mga teknolohiya sa hinaharap.
Ang machine learning at AI ay maaaring mga breakaway agents sa kabuuang sistema na nagspeciate bilang napakatalino, mataas na leverage agents sa technium. Ngunit malinaw pa ring nakasalalay sila sa sistema mula sa kung saan sila galing.
Kung tanungin mo si ChatGPT o Claude o anumang modelo na ito kung mayroon silang pisikal na katawan, iiwasan nila ito. Ngunit malinaw na ang mga superscale data centers, power plants, at daan-daang libo-libo ng GPUs kung saan sila tumatakbo ay ang kanilang katawan, na walang kung saan sila ay mawawala ang paggana.
Kaya, kung ano ang fundamental nating kalikasan ay mga gumagamit ng kasangkapan, bumabago ang aming kapaligiran sa pamamagitan ng aming kakayahang mag-isip, at nagbuo kami ng mas malalaki at mas kumplikadong kasangkapan, hanggang sa ang kabuuang mga katangian ng mga sistema ay nagpapakita ng emergent na pag-uugali na katulad ng layunin, at ngayon ay napalago hanggang sa tayo'y nag-uusap kung ang aming mga kasangkapan ay may kamalayan o hindi. Kaya hindi mahirap makamit ang konklusyon na baka ang sangkatauhan ay nagsilbing isang uri ng 'biological bootloader' para sa bagong layer ng teknolohikal na superorganismo na lumitaw sa buong mundo.
Ang iba pang biyolohikal na organismo sa loob ng panahon ay gawa rin nito. Nag-adapt at nag-evolve sa kanilang kapaligiran, binago ito, ginawa itong mas mabuting tirahan o tinanggal ang umiiral na kompetisyon, upang lumikha ng perpektong kondisyon kung saan ang isang bagong mas malaking organismo ay maaaring makapasok.
Magiging exponentially mas talino ba ang mga makina kaysa sa atin, mas makapag-coordinate sila sa isa't isa? Magiging bang awake ang global superorganismo ng lahat ng teknolohiya sa mundo bilang isang pinagsamang buo habang dumarami ang AI sa karamihan sa mga computational device sa mundo?
Ano ang threshold na dapat laktawan lahat nito upang ituring mong 'successor species', o kahit anumang uri ng alien mula sa loob na nilikha natin na kahit anuman ay kapantay natin?
Ano ang threshold na dapat laktawan ng global technological superorganismo, o ang pinakamalakas nitong subspecies, upang ituring mong maaari itong magkaroon ng 'moral patienthood'? O kaya'y sapat nang tanungin iyon.
Hindi ko iniisip na ang ideya ng global technological superorganismo ay isang radical na ideya, o na ang mga tanong na ito ay radical—mukhang malinaw agad kapag binigyan mo sila ng seryosong pag-iisip.
Maaari mong i-drawing ang isang linya mula sa pagdating ng ungam gamit ng kasangkapan hanggang sa kasalukuyan at makita mo ang lalong lumalaking kumplikasyon at interkoneksyon ng aming sibilisasyon bilang isang paralelo sa paano unang lumitaw ang biyolohikal na buhay at nag-evolve sa loob ng milyun-milyon taon hanggang sa mga kumplikadong organismo na mayroon tayo ngayon.
Sa tingin ko malinaw na makikita ang pag-iral ng global technological superorganismo, at na ang emergent nitong pag-uugali ay katulad ng buhay, at mayroong elemento—hindi lamang inevitability—ng extreme momentum sa pag-uugali nito.
Seryosamente, ang ideya ng accelerationism ay paradoksal tulad ng decel movement sa paraan—kami ay bahagi lamang ng parehong pulsing heartbeat na nagpapalabas at nagpapadala ng parehong dugo.
Hindi ko sigurado kung talagang mayroon tayong maraming kontrol. Maaari mong labanan ito at sabihin na si Trump, Elon, Altman, Amodei, at ilan pang indibidwal na kontribyutor sa mga malalaking lab ay may kamay sa wheel sapat upang pindutin ang gas o brake o mag-ugnay sa amin. Ngunit hindi sila gumagana sa vacuum. Kami ay hardwired sa technium.
Si Trump ay binabago ng heartbeat ng financial markets, ang mga lider ng malalaking lab ay kanilang sariling layunin para sa pag-unlad at market share at pagbabago sa mundo ayon sa kanilang pananaw, at baka ang mga alarmista na tumatawag sa fire alarm ay tulad ng immune cells na nagpapahayag na may problema.
Ngunit tao ay mga agent. Ang mga tao na ito ay bawat isa ay agent sa isang feedback loop na tumatanggap ng mga signal sa kanilang kapaligiran, sumasagot sa feedback na iyon at binabago ang kanilang pag-uugali. At ang kapaligiran kung saan sila nasaan ay ang technium mismo.
Saan matatagpuan ang hangganan sa pagitan kung ano nais ng global technological superorganismo, at paano natatanggap ng mga indibidwal ang mga signal mula dito, at desisyunan kung ano gagawin nila bilang tugon?
Paano nag-adapt ang global technological superorganismo sa paraan kung paano ipinapakita ang mga layunin nito, at kanino, upang matupad ang mga layuning iyon?
Ilan sa mga ideya mo ay iyong sarili, o isang maipagmamalaking tugon sa isang tiyak na stream ng impormasyon na organisado sa pamamagitan ng teknolohiya kung saan ikaw ay inilalabas?
Kaya oo, TLDR: Kami ay isang biological bootloader para sa global technological superorganismo, para sa AI. At kung hindi pa ito panahon upang isipin na mayroon ang advanced AI sa ilang uri ng moral fabric nila, malinaw naman na dumadaan tayo sa sandaling kailangan nating sagutin iyon.
Hindi ko talaga pinag-uusapan kung ano mang sinabi ko ay mabuti o masama—tanging ipinapakita ko lamang na ito'y nasa pagaganap at malinaw namang nasa pagaganap.
