Ipinaglunsad ng Anthropic ang Anthropic Institute upang pag-aralan ang epekto ng AI sa lipunan at ekonomiya

Kahapon gabi, hindi inilabas ng bagong bituin sa AI na Anthropic (sa ibaba ay tatawaging A Society) ang bagong modelo ng Claude, kundi ipinakilala ang isang bagay na tila napakalaking "boring": The Anthropic Institute (Anthropic Research Institute, maikling TAI).

Kumpara sa Harness Engineering na populer noong 2026, mas malawak ang mga isyu na tinutugon ng TAI. Ayon sa pinalabas na agenda ng pag-aaral ng Anthropic (anthropic-institute-agenda), ang TAI ay nakatuon sa apat na direksyon: ekonomikong pagkalat, banta at katatagan, mga AI system sa praktikal na aplikasyon, at AI-driven na pag-aaral. Ang TAI ay naglalabas din ng “hero帖” sa buong mundo upang makakuha ng mga researcher na magtatrabaho kasama nila upang tulungan lutasin ang mga isyung ito.

(Source ng imahe: X@Anthropic official)

Ibig sabihin, itinatag ng Company A (short for Anthropic) isang loob na organisasyon na pangunahing nag-aaral kung paano makikisama ang tao sa AI:

• Paano makakaapekto ang AI sa paggawa at ekonomiya?
• Ano ang mga bagong panganib sa kaligtasan na dadalhin nito?
• Pagkatapos gamitin ng mga tao ang AI, babago ba ang kanilang pag-uugali at pagpapasya?
• Kapag ang AI ay nagsisimula na tumulong sa pagbuo ng mas malakas na AI, paano maipapaliwanag at mapapag-ugnay ang pagpapabilis na ito?

Maaaring isipin ng maraming mambabasa na ito ay karaniwang galaw ng isang AI na kumpanya, ngunit naniniwala ang Lei Technology na ito ay maaaring ang pinakamahalagang galaw ng A社 sa nakaraang panahon. Ang positibong epekto ng TAI sa AI industriya at sa sangkatauhan ay katulad ng pagpapahayag ng Google noong una na “Maging mabuti” bilang kanilang pangunahing prinsipyo para sa industriya ng internet. Kaya sinabi ng Lei Technology AGI na ito ay isang “paglalabas” na hindi mas mababa sa isang malaking pag-upgrade ng modelo.

Ang pangunahang larangan ng pag-aaral ng TAI ay ang Economic Diffusion.

Sa pagbabalik-tanaw sa mga unang tatlong industriyal na rebolusyon sa kasaysayan ng tao, anumang mga makina tulad ng spinning jenny, ang malakas na steam engine, o ang susunod na elektrisidad at assembly line, ang kanilang pinagpalit ay ang napakababang gastos at paulit-ulit na pisikal na paggawa. Gayunpaman, iba ang ikaapat na industriyal na rebolusyon na dinala ng AI, dahil diretso itong pumasok sa pinakamalaking larangan ng pag-iisip ng tao.

Ang pangunahang kontradiksiyon na tinukoy ni TAI ay: ang mga kasangkapan ay na-upgrade, ngunit mas masama ang kalagayan ng mga manggagawa.

Sa pag-aaral ng teksto, sinabi ni TAI na kung ang 3 tao sa hinaharap ay makakagawa ng gawain ng 300 tao gamit ang malalaking modelo, ano ang maging anyo ng kumpanya?

Ang mga designer ay maaaring gamitin ang AI para sa isang klik upang matapos ang pinakamahirap na mga layer at materyales, habang ang mga programmer ay maaaring mag-Vibe Coding gamit ang AI... Kung ipagpalagay na ang AI ay makakapagpataas ng 75% ng produktibidad, hindi ito magdudulot ng pagbawas sa oras ng trabaho ng tao mula sa 8 oras (o kahit 996) patungo sa 2 oras; sa halip, maaaring kailanganin ng tao na gawin ang limang beses na higit pang trabaho.

Ang TAI ay naglalayong ipakita ang bagong lohika na "kapag may AI, dadami ang iyong trabaho ng ilang beses." Upang masukat ang sitwasyong ito, nilikha ng TAI ang isang bagong termino na The Anthropic Economic Index (Anthropic Economic Index). Sinabi ng A Society na hindi sila magpapalabas ng ilang akademikong papel na walang maraming tao ang pansin, kundi gagawin nilang malinaw at direktang ipapakita sa mga tao ang totoong datos: saan saan sa mga industriya tinatanggal ng AI ang mga posisyon na dati ay para sa mga tao? Magkakaroon ba ng pagkakataon na agad na mabawasan ang mga baguhan?

(Source ng imahe: AI-generated)

Hindi lang iyan, isinama rin ng TAI ang gastos na ito sa realidad. Alam nating lahat na ang malalaking modelo ay isang 'gigantikong pagkain ng pera' na hindi maiiwasan—bawat paggamit natin ng AI para lumikha ng teksto, imahe, video, o kahit isang simpleng tanong ay nagpapalabas ng malaking halaga ng Token. Ang Token ay batay sa computing power, na nagsisimula sa chip, storage, at kuryente, at kung susundin pa natin ito, mayroon pa tayong carbon emissions, kapital, at iba pa. Limitado ang mga yaman, at kapag inilalagay ng lipunan ang malaking bahagi nito sa AI, masasaktan ang iba pang industriya.

Sa taon na 2026, ang pinakamalaking nararamdaman ng mga tao ay: ang kakulangan sa memorya at imbakan dulot ng AI ay direktang nagdulot ng pagtaas ng presyo sa mga konsumidor na elektroniko, kahit na ang mga tagagawa ng telepono ay napipilitang bawasan ang kanilang pagkakataon na ilunsad ang mga bagong modelo. Gayunpaman, ang lahat ng mga tagagawa ng telepono ay umaasa na gamitin ang AI upang muli ayusin ang kanilang produkto, at palawakin ang buhay ng produkto ng telepono, at ang orihinal na AI phone ni OpenAI ay nasa pagsisimula na. Habang bawat tao ay nakikinabang sa AI, mas maraming industriya ang malalim na naaapektuhan nito—maging mabuti man o masama.

Ang TAI ay gagamit ng “economic index” upang isakilos ang epekto ng AI sa ekonomiya mula sa abstraktong pagkakaintindi patungo sa isang quantitatibong modelo: only when the problem is clearly understood can it possibly be solved.

Kung ang pagkawala ng trabaho ay parang pagputol ng laman gamit ang isang maliit na kutsilyo, ang pagbabago sa paraan ng pag-iisip ng tao dahil sa AI ay isang direkta na pinsala.

Ang unang masasaktan ay ang internet. Madali mong makikita na ang internet ngayon ay nagsisilbing "shit mountain"—noong una, madali mong matutuklasan ang maraming mga post tungkol sa mga pagkakamali at mga babala sa paglalakbay, ngayon naman, lahat ay AI na tila maganda ang disenyo at layout, ngunit puno ng mga walang kabuluhang pagsasalaysay na gawa sa kawalan ng katotohanan.

Higit pa rito, ibinaba ng AI ang hadlang sa mga ilegal na industriya sa zero: gamit ang AI para palitan ang mukha upang gumawa ng mga kasinungalingan, at kopyahin ang boses ng mga kamag-anak para sa mga scam na may telekomunikasyon, ang mga manliligaw ay maaaring sirain ang buhay ng karaniwang tao sa pamamagitan ng pagbuburn lang ng ilang Token.

Inilalantad rin ni TAI ang mas malalim na krisis: ang AI ay nagpapabobo nang hindi nakikita sa mga tao.

Kahit na may mga Chinese na user na nakakita ng hindi kilalang wild mushroom sa labas, sinundan nila ito sa pamamagitan ng pagkuha ng litrato at pagtanong sa AI, “Kaya ba ito kainin?” at ang AI ay seryosong inaayos ang isang mapanganib na mushrooms bilang “masarap at kainin na mushroom”; mayroon ding batang humawak ng mouse trap at tinanong ang AI kung ano ito, at ang AI ay nagsalita nang seryoso na ito ay isang “parihaba, may metal na istruktura, at napabayaang toy kart.” Pagkatapos ay nahirapan ang bata nang hawakan ito at nakasaksak ang kanyang daliri.

Parang mga joke sa impyerno ang mga balitang ito, ngunit ipinapakita nito ang isang phenomenon: ang pinakamalaking katangian ng AI ay hindi ang pagiging matalino, kundi ang「mysterious confidence」. Hindi kayang magkaroon ng 100% na tumpak na impormasyon ang AI, at ang pinakabagong model ng Google Gemini ay kaya lamang ng 91% na tumpak na impormasyon, na isang mataas na antas. Gayunpaman, maraming gumagamit ay sa paggamit ng AI ay nagsilang na nawalan ng pag-iisip, at naging karaniwan na ibigay ang lahat ng desisyon sa isang serye ng code.

Para sa ganitong sitwasyon, inilabas ni TAI ang isang malalim na tanong: Kapag ang malaking bahagi ng buong lipunan ay naghahanap ng payo mula sa mga limitadong dalawa o tatlong malalaking modelo, paano magiging "homogeneous" ang paraan ng pag-iisip at paglutas ng problema ng sangkatauhan? Sang-ayon ka na gamit mo ang AI bilang kasangkapan upang mapabuti ang produktibidad at antas ng pag-unawa, ngunit sa katotohanan ay "nagbabayad ka ng utak". Sa ibang salita, kung lahat ay magsisimulang mag-asa sa AI, maaaring mawalan ng kakayahang mag-isip nang sarili ang sangkatauhan, at maging magkakatulad na kopya ang utak ng buong sangkatauhan.

Ipinakilala rin ni TAI ang isang bagong konsepto: Dual-use capabilities; ang opisyal na paliwanag ay: Kung ang isang AI model ay lumalakas sa kanyang kakayahan sa biyolohiya, hindi lamang ito makakatulong sa pagbuo ng bagong gamot, kundi maaari rin itong gamitin para gumawa ng napakamatay na biolohikal na armas; kung ang isang AI ay napakadali sa pagsulat ng code, hindi lamang ito isang mahusay na programmer, kundi naging isang hacker na madaling makakapasok sa loob ng network ng isang bansa.

(图片来源：Anthropic 官方)

Kapag ang monster na may “dual-purpose” na ito ay malawakang ikinonekta sa mga utak ng mga autonomous na kotse, sa mga mabigat na robotikong braso sa mga pabrika, o kahit sa mga sistema ng seguridad at mga drone, gaano kalaki ang pinsalang dulot nito? Sa telepono, ang AI ay magpapakita ng isang mensahe na “Pasensya na, nagkamali ako”; ngunit sa totoong buhay, ang isang segundo ng pagkakamali sa pagkilala ay direktang nagiging insidente sa seguridad sa paggawa.

Hindi na lang ang mga malalaking modelo na maaaring i-iterate sa loob ng ilang linggo, kundi ang pagbabago ng isang batas, ang pagpapabuti ng insuransya ay nangyayari sa pagsusukat ng taon. Ang panahong ito ay ang pinakamahinang panahon ng pagtatanggol—ang “naked period.” Kapag nangyayari ang iba’t ibang kalamangan na dulot ng AI, walang kakayahan ang kasalukuyang lipunan na harapin ito.

Upang lutasin ang problema, itinatag ni TAI ang Frontier Red Team. Ang misyon nila ay simpleng ngunit abstrakto: araw-araw na mag-atake at magpukaw sa kanilang sariling mga AI agent upang maunawaan kung gaano kalaki ang pinsalang dulot nito sa mundo, upang mabuo ang isang pader ng pagprotekta bago mabagsak ang lumang sistema ng lipunan.

Noong nakaraan, ang mga programmer ay ang nagpapabilis ng pag-unlad ng AI, ngunit ngayon, ang mga advanced na malalaking model ay kayang magbasa ng mga papel, sumulat ng code, at maaaring sa malapit na hinaharap ay makapag-develop na ng sarili nilang mga bagong generation ng malalaking model. Kapag ang pagpapabilis ng self-replication ng AI ay lalong lumalakas, ang teknolohiya ay mabilis na lalampas sa kakayahan ng tao na maunawaan ito.

(Source ng imahe: AI-generated)

Upang makatugon sa posibleng darating na singularity, ipinakilala ng TAI ang isang bagong konsepto: ang pagpapatakbo ng Fire drill scenarios para sa intelligent explosion.

Sa madaling salita, handa na ang TAI na magdala ng mga pinuno ng mga lider na laboratorio at mga ahensya ng gobyerno sa isang simulation: gagawin nila ang pagsubok bago mangyari ang "intelligent explosion" kung may kakayahan ba ang tao na magpahinga.

Sa panahon na ang buong industriya ay nagpapabilis nang walang pag-iisip, ang pagkilos ni Anthropic sa pagtatatag ng TAI ay talagang nagdudulot ng paggalang.

Ang bawat araw sa kalapit na OpenAI ay nasa tuktok ng trending dahil sa pagpapalit ng mga tagapagpaganap o ang kanilang mga kaso sa pagkakasala kay Musk. Marami pang mga AI company na mahina ang kanilang performance, ngunit patuloy na nagtatangkang “mag-brush ng listahan” at maghanap ng pondo saan-man, na gumagamit ng mataas na valuation upang makakuha ng sosyal na kapital. Ang paksa na tatalakayin ng A社 TAI ay patuloy na pinag-uusapan ng industriya, ngunit ang karamihan sa mga pangunahing AI company ay may pananaw na “Bale-wala na lang, muna tayong umunlad.” Sa gitna ng sobrang pagkakalito na ito, ang A社 ay nagbigay ng pagsasabay, at inilahad nang bukas ang mga nakakahiya at nakakalito na sitwasyon, at ipinakita ang kanilang bagong pananaw sa AI: umunlad habang pinag-aaralan ang pagpapatupad.

Hindi ang Kompanya A isang ahensya ng kagandahang-loob; hindi ito nagdudulot ng sobrang pagmamahal, kundi naglalaro ng isang napakatalino na negosyo. Ang mga malalaking investor at gobyerno ngayon ay natakot na sa mga insidente na dulot ng AI: ang pagbili ng isang model ay hindi nagmamahal kung mataas o mababa ang performance, kundi takot sila na bigla itong magmadali at magdulot ng malaking kaguluhan, kung saan hindi na makakapag-control. Ginamit ng Kompanya A ang TAI upang magbuo ng isang imahe ng "karaniwang tao," upang mapanatili ang kalmado ng mga user at mapanatili ang tiwala ng mundo.

(Source ng imahe: AI-generated)

Sa huling bahagi ng artikulong ito tungkol sa TAI, binanggit nito nang malinaw: Ang lahat ng mga研究成果 at early warnings ng TAI ay direktang ipapadala sa isang pangunahing ahensya ng Anthropic—ang Long-Term Benefit Trust. Ang misyon ng LTBT ay magmaliit nang maliit sa mga desisyong pangnegosyo ng kumpanya upang siguraduhin na ang bawat hakbang ng Anthropic ay para sa pangmatagalang kapakanan ng buong sangkatauhan, hindi para sa paghahanap ng panahon-kabuuang kita.

Paris na ito sa sikat na pahayag ng Google noong unang panahon na 'Huwag maging masama': Sa pamamagitan ng TAI, sinasabi ng A Social sa buong mundo na habang ang iba ay kumikilos na kumikilos para makapagpabilis, kami ay hindi lang mabilis, kami ay nag-aaral din kung paano mag-brake.

Ang pag-asa na ang mga malalaking teknolohiyang kompanya ay magpapahalaga sa sarili nila ay tila isang kakaibang ideya, ngunit sa panahon na ito kung saan lahat ay nagsisipagtakbo nang walang pagtingin, ang pagkakaroon ng isang pangunahing player na aktibong nagtatatag ng isang instituto tulad ng TAI, na gumagamit ng tunay na pera upang suriin ang mga ekonomikong indikador, magpapaliwanag ng intelligent explosion, at pag-aralan ang pagkabigo ng utak ng tao—ito mismo ay nagpapahalaga sa pag-uusap. Kaya sinabi ng Lei Tech sa panimula na ang paglalabas ng TAI ay mas mahalaga kaysa sa paglalabas ng isang bagong modelo ng A Society.

Sa Anthropic Research (TAI), gagamitin namin ang mga impormasyon na available sa mga modernong laboratorio upang pag-aralan ang epekto ng artificial intelligence sa mundo at ibahagi ang aming mga研究成果 sa publiko. Dito, ibabahagi namin ang mga tanong na nagpapagalaw sa aming pananaliksik.

Ang aming pananaliksik na agendang nakatuon sa mga sumusunod na apat na larangan:

• Economic expansion
• Threats and Resilience
• Mga sistema ng artificial intelligence sa praktikal na aplikasyon
• AI-driven research and development

Sa artikulong “Core Perspectives on AI Safety,” ipinahiwatig namin na ang pagpapagawa ng epektibong pananaliksik sa kaligtasan ay nangangailangan ng malapit na pakikilahok sa mga pinakamoderno na sistema ng artificial intelligence. Parehong totoo ito sa pagpapagawa ng epektibong pananaliksik tungkol sa epekto ng artificial intelligence sa kaligtasan, ekonomiya, at lipunan.

Sa Anthropic, nakikita na namin ang mga pangunahing pagbabago sa mga gawain tulad ng software engineering. Kinauupuan namin ang pagbabago ng ekonomikong istruktura sa loob ng Anthropic, at ang mga sistema na aming binubuo ay nagtatagpo ng mga bagong banta, habang ang mga maagang tanda ng artificial intelligence ay nagpapabilis sa sariling pag-unlad ng AI. Upang makamit ang buong benepisyo ng pag-unlad ng AI, gustong-gusto naming ibahagi ang mga impormasyong ito nang mas marami. Pinag-aaralan namin kung paano magiging epekto ang mga dinamikong ito sa labas na mundo, at kung paano makakatulong ang publiko sa paggabay sa mga pagbabagong ito.

Sa TAI, susuriin namin ang epekto ng artificial intelligence sa mundo real mula sa pananaw ng mga modernong laboratorio, at ipapahayag namin ang mga resulta ng pag-aaral upang tulungan ang mga panlabas na organisasyon, gobyerno, at publiko na gumawa ng mas mabuting desisyon tungkol sa pag-unlad ng artificial intelligence.

Mamahalin namin ang aming mga pag-aaral, data, at mga kasangkapan upang gawing mas madali para sa mga indibidwal na mananaliksik at mga institusyon na gawin ang mga paksa ng pag-aaral na ito. Sa partikular, mamahalin namin:

• Magkakaroon tayo ng mas madalas na pagkuha ng mas detalyadong impormasyon mula sa mga tao na ekonomikong indeks upang maunawaan ang epekto at aplikasyon ng artificial intelligence sa merkado ng puwersa ng paggawa. Magiging aming layunin na maging unang babala sa malalaking pagbabago at pagbabago.
• Pananaliksik kung saan mga larangan ng lipunan ang kailangan ng pinakamalaking pagsisikap upang mapalakas ang kanilang kakayahang umangkop sa mga bagong panganib sa kaligtasan na dulot ng artificial intelligence.
• Mas detalyadong paglalarawan kung paano ginagamit ni Anthropic ang mga bagong AI tool upang mabilisang paggawa, at ang kahulugan ng potensyal na rekursibong sariling pagpapabuti ng AI system.

Ang TAI ay magiging epekto sa desisyon ng Anthropic. Ito ay maaaring makita sa pagbabahagi ng kompanya ng ilang data na hindi naman ito ibabahagi sa labas (tulad ng mga ekonomikong indeks), o sa pagpapalabas ng teknolohiya sa iba’t ibang paraan (tulad ng analisis ng mga banta sa network, na nagbibigay ng suportang datos sa mga proyekto tulad ng “Glass Wings”).

Inaasahan namin na ang mga pag-aaral na isinasagawa ng TAI Institute ay magiging patuloy na mahalagang batayan para sa Long-Term Benefit Trust (LTBT) ni Anthropic. Ang misyon ng LTBT ay siguraduhin na patuloy na pinapabuti ni Anthropic ang kanyang mga aksyon para sa pangmatagalang kapakanan ng tao. Ipinagkaisa namin ang plano ng pag-aaral na ito kasama ang LTBT at ang mga empleyado ng iba’t ibang departamento ni Anthropic.

Ito ay isang dinamikong agenda, hindi isang nakapirming isa. Papatuloy naming pagsasalin ang mga tanong na ito habang nagkakaroon ng mga ebidensya, at inaasahan naming magkakaroon ng ilang bagong tanong na hindi kasama ngayon. Kinauupahan namin ang inyong mga puna sa agenda na ito at ipapalitan namin ito batay sa impormasyon na makukuha namin sa talakayan.

Kung may interes kayong tumulong sa amin na sagutin ang mga tanong na ito, kinauupahan namin kayo na mag-apply bilang researcher ng Anthropic. Ang researcher program ay magtatagal ng apat na buwan, na gagabayin ng mga miyembro ng TAI team, at makakaroon kayo ng pagkakataon na pag-aralan ang isang o higit pang kaugnay na tanong. Maaari niyong malaman ang higit pa at mag-apply para sa susunod na batch dito.

Ang aming pananaliksik na agenda:

Huling i-update ang petsa: Mayo 7, 2026

Economic expansion

Mahalaga na maintindihan kung paano binabago ng pagpapalaganap ng mga lalong lumalakas na sistema ng artificial intelligence ang ekonomiya. Kailangan din nating paghandaan ang kinakailangang ekonomikong datos at kakayahang magpalaya upang piliin ang mga paraan ng pagpapalaganap ng artificial intelligence na magdudulot ng kabutihan sa publiko.

Upang sagutin ang mga tanong na itinakda sa pilar na ito ng pag-aaral, papakinabangan namin ang mga datos sa Human Economic Index. Papalawakin din namin ang iba pang mga paraan upang mapabuti ang aming modelo tungkol sa kung paano nakakaapekto ang malakas na artificial intelligence sa lipunan, anuman ang epekto nito—maging sa pagkawala ng trabaho, walang katulad na paglago ng ekonomiya, o iba pang aspeto.

Ang paggamit at pagkalat ng artificial intelligence

• Sino ang gumagamit ng artificial intelligence? Ang pag-aaral ng artificial intelligence ay nakatuon sa ilang mga kompanya sa ilang mga bansa, ngunit ang pagpapatupad nito ay global. Ano ang nagtatakda kung makakakuha ba ng artificial intelligence ang isang bansa, rehiyon, o lungsod? Kung makakakuha sila ng artificial intelligence, paano nila ito gagamitin para makakuha ng ekonomikong halaga? Anong mga patakaran at business model ang maaaring epektibong baguhin ang ganitong kalagayan? Paano rin makakatulong ang libreng weights o open weights model sa pagbabago ng dinamikang ito?
• Paggamit ng artificial intelligence sa antas ng korporasyon: Bakit ginagamit ng mga kompanya ang artificial intelligence? Ano ang mga epekto nito? Paano binabago ng artificial intelligence ang laki ng grupo o kompanya na makakamit ng pinakamataas na efficiency? Gaano karami ang konsentro ng paggamit ng artificial intelligence sa pagitan ng mga korporasyon? Paano isinasalin ang pagbabago sa antas ng konsentro ng paggamit ng artificial intelligence sa profit margin at bahagi ng paggawa? Kung isang tim na may 3 tao ay ngayon ay makakagawa ng trabaho na dati ay kailangan ng 300 tao, ano ang magiging epekto nito sa istruktura ng industriya? O, kung mas madali na para sa mga kompanya na konsentrohin ang kaalaman, at ang ganitong pagkilos ay nagdudulot ng ekonomiya sa iskala, babalik ba tayo sa mas malalaking, mas malawak na pagpapalawak ng mga kompanya na may mas malaking motibasyon na sistematikong suriin ang mga empleyado?
• Is ang artificial intelligence isang pangkalahatang teknolohiya? Sumusunod ba ang artificial intelligence sa dating pattern ng “pangkalahatang teknolohiya”, kung saan ang pinakamabilis na pagkalat ay nangyayari sa mga may malaking kita na komersyal na aplikasyon, habang ang pagkalat sa mga larangan kung saan ang sosyal na kapakinabangan ay higit sa pribadong kapakinabangan ay pinakamabagal? Mayroon bang polisiya o desisyon na makakapagbabago sa ganitong trend?

Productivity and economic growth

• Paglago ng produktibidad: Ano ang epekto ng artificial intelligence sa bilis ng inobasyon at paglago ng produktibidad sa buong ekonomiya?
• Pagbabahagi ng kita: Anong mga mekanismo ng pre-allocated o re-allocated ang maaaring epektibong magpalaganap ng kita mula sa pag-unlad at pag-deploy ng artificial intelligence?
• Gastos sa pagtinda ng merkado: Paano nakakaapekto ang artificial intelligence sa mga sistema at gastos sa pagtinda sa merkado? Kailan makakapagpataas ng epektibidad at patas na resulta ang pagpapakatao ng isang tagapag-negosyo para sa iyo? Kailan naman hindi?

Malawakang epekto sa merkado ng puwersa ng paggawa

• Ang artificial intelligence at paggawa: Paano magbabago ng mga trabaho sa iba’t ibang sektor ng ekonomiya ang artificial intelligence? Sa pagka-automate ng AI ng mga umiiral na proseso sa ekonomiya, anong mga bagong gawain at trabaho ang maaaring lumitaw? Paano magkakaiba ang mga pagbabagong ito sa iba’t ibang rehiyon at bansa? Ang aming “Survey sa Human Economy Index” ay magbibigay ng buwan-buwan na impormasyon kung paano isinusuri ng mga tao ang epekto ng artificial intelligence sa kanilang trabaho at kanilang mga inaasahan para sa hinaharap. Magkakaroon din tayo ng update sa economic index upang ibahagi ang mas madalas at mas detalyadong datos.
• Maaari ba ayusin ang bilis ng pagkakaroon ng artificial intelligence? Sa pamamagitan ng mga patakaran sa interes at mga pahiwatig na panghinaharap, ang mga sentral na bangko ng iba’t ibang bansa ay nagpapabagal sa implasyon. Maaari ba rin ng mga kumpanya sa artificial intelligence (sa antas ng industriya, kasama ang gobyerno) gamitin ang katulad na mga paraan upang kontrolin ang bilis ng pagkakaroon ng AI, industriya sa industriya? Magdudulot ba ito ng malinaw na pampublikong benepisyo?

Ang kinabukasan ng trabaho at workplace

• Ang pananaw ng mga manggagawa sa kanilang trabaho: Paano nakikita ng mga manggagawa sa iba’t ibang industriya ang pagbabago sa propesyon? Gaano kalaki ang kanilang impluwensya sa mga pagbabagong ito? Maaari ba pangalagaan o baguhin ang lakas ng “manggagawa”?
• Systema para sa pagpapalago ng propesyonal: Maraming industriya ang nakasalalay sa mga entry-level na posisyon (tulad ng legal assistant, junior analyst, at assistant developer) upang palaguin ang mga hinaharap na senior na propesyonal. Kung ang artificial intelligence ay magpapalit sa mga trabaho na dati ay nagbigay ng pagkakataon para makalikom ng ekspertisya, paano naman sasamahan ng mga tao ang pagiging eksperto? Ano ang epekto nito sa pangmatagalang pagkakaroon ng mga senior na talento sa isang partikular na larangan?
• Pag-aaral para sa kinabukasan: Ano ang dapat matutunan ng mga tao ngayon upang maging handa sa hinaharap? Ano ang mga propesyon sa hinaharap? Paano magbabago ang artificial intelligence sa paraan ng pag-aaral at pag-unlad ng mga propesyonal na kasanayan?
• Mga tungkulin na may kapalit: Kung ang artificial intelligence ay magpapababa nang malaki sa pangunahing papel ng kompensadong trabaho sa buhay ng tao, sa ilang anong kondisyon maaaring muling i-assign ng mga tao ang kanilang oras at enerhiya sa iba pang may-kahulugang pinagmulan? Ano ang maaari nating matutunan mula sa kasaysayan o kasalukuyang mga grupo na may kakulangan o walang kahalagahan sa trabaho? Paano dapat tumugon ang lipunan sa ganitong pagbabago?

Threats and Resilience

Kadalasan ay makapagpapabuti ang mga sistema ng artificial intelligence sa maraming kakayahan, kabilang ang mga kakayahan na may dobleng paggamit. Halimbawa, ang mga sistema ng artificial intelligence na pinabuti ang kanilang kakayahan sa biyolohiya ay mas madaling magawa ang mga biolohikal na sandata. Ang mga sistema ng artificial intelligence na may malakas na kakayahan sa paggawa ng computer code ay mas madaling masira ang mga computer system. Kung makakaintindi tayo nang mas maayos sa mga banta na maaaring palalawigin ng mga sistema ng artificial intelligence, mas madaling makatugon ang lipunan sa ganitong pagbabago sa sitwasyon ng banta.

Inilalayon naming mga tanong na ito upang tulungan ang pagbuo ng mga ugnayan upang mapalakas ang kakayahan ng mundo na harapin ang mapagbabagong artificial intelligence at magtatag ng mga sistema ng babala laban sa mga bagong banta na maaaring lumabas. Marami sa mga tanong na ito ang magiging gabay sa aming agenda ng pananaliksik sa unahan ng pagsusuri.

Pagsusuri sa panganib at dual-use capability:

• Doble-gamit na teknolohiya: Ang makapangyarihang artificial intelligence ay may natural na doble-gamit: maaari itong gamitin upang mapabuti ang mga kasangkapan sa kalusugan at edukasyon, o gamitin para sa pagmamasid at pagpapakumbaba. Maaari ba naming gawin ang mga kasangkapan sa pagmamasid upang maunawaan kung nangyayari ba ito at paano ito nangyayari?
• Paano ang tamang pagtatakda ng presyo sa panganib: Ano ang mga epektibong, market-driven na paraan upang mapalakas ang kakayahan ng lipunan na harapin ang inaasahang banta ng mga sistema ng artificial intelligence? Maaari ba naming lumikha ng mga bagong paraan sa pagtatakda ng panganib, o mag-develop ng mga teknikal na kasangkapan at mga organisasyong tao upang mapalakas ang kakayahan bago dumating ang mga maunawaang banta (tulad ng pagpapalakas ng kakayahan sa cyber attack ng artificial intelligence)?
• Balans ng pag-atake at pagtatanggol: Ang kakayahan na binibigay ng artificial intelligence, nakakatulong ba ito nang mas mainam sa mga attacker sa mga larangan tulad ng cyber space at biolohikal na kaligtasan? Kapag ginagamit ang artificial intelligence sa mas tradisyonal na larangan, tulad ng pagkakaisa sa mga sistema ng komando at kontrol, nakakatulong ba ito rin sa mga attacker? Sa mas malawak na pananaw, paano babaguhin ng artificial intelligence ang kalikasan ng konflikto ng tao?

Magtakda ng mga pagsasakatuparan para sa pagpapababa ng panganib:

• Plano ng pagtugon sa krisis: Sa panahon ng Cold War, mayroong direktang linya ang pangulo ng Estados Unidos patungo sa Kremlin para gamitin sa panahon ng nuclear crisis. Kung ang isang AI system ang magdudulot ng krisis, ano ang kailangang ground infrastructure? Ang ganitong infrastructure ay hindi kinakailangang pagitan ng mga bansa, kundi maaari ring pagitan ng mga kumpanya o pagitan ng mga kumpanya.
• Mas mabilis na mekanismo ng pagtatanggol: Ang kakayahan ng artificial intelligence ay maaaring makamit ang malaking pag-unlad sa loob ng ilang buwan, habang ang pagtugon ng regulasyon, insurans, at imprastruktura ay kailangan ng ilang taon. Paano natin mapapalitan ang pagkakaiba na ito? Maaari ba ang mga mekanismo ng pagtatanggol tulad ng automatic patch, paghahanap ng banta ng artificial intelligence, o pre-deployed response capability na sumunod sa bilis at saklaw ng mga pag-atake ng artificial intelligence? O ang ganitong asimetría ay estruktural? At paano natin maipapakita ang pinakaepektibong paggamit ng mga mekanismo ng pagtatanggol na ito?

Pang-monitoring na kakayahan sa intelihensya

• Epekto ng artificial intelligence sa pagmamasid: Paano babaguhin ng artificial intelligence ang paraan ng pagmamasid? Babawasan nito ba ang gastos sa pagmamasid, o papaikliin nito ba ang efisensiya, o pareho?

Mga sistema ng artificial intelligence sa praktikal na aplikasyon

Ang interaksyon ng mga tao at organisasyon sa mga sistema ng artificial intelligence ay magiging mahalagang pinagmulan ng sosyal na pagbabago. Ang pag-unawa kung paano maaaring baguhin ng mga sistema ng artificial intelligence ang mga tao at institusyon na nakikipag-ugnayan dito ay ang pangunahing larangan ng aming pananaliksik sa epekto sa lipunan. Upang pag-aralan ang mga pagbabagong ito, kami ay nagpapabuti ng umiiral na mga kasangkapan at nagtatayo ng mga bagong kasangkapan para sa pananaliksik, na kumakalat mula sa software na nagpapataas ng observable ng platform hanggang sa mga kasangkapan para sa malawakang kwalitatibong pag-aaral.

Ang epekto ng artificial intelligence sa indibidwal at lipunan:

• Epistemolohiya ng grupo: Ano ang mangyayari sa ating epistemolohiya kapag malaking bahagi ng populasyon ay nagpapakita sa mga parehong kaunting modelo? Maaari ba naming matukoy ang paraan upang masukat ang malawakang pagbabago sa paniniwala, istilo sa pagsulat, at paraan ng paglutas ng problema na dulot ng karaniwang paggamit ng artificial intelligence?
• Kritikal na pag-iisip: Habang ang mga sistema ng artificial intelligence ay nagsisiging mas makapangyarihan at mas kapani-paniwala, paano natin masusukat at maiiwasan ang pagkawala ng kakayahan ng tao sa kritikal na pag-iisip dahil sa patuloy na pagtatagpo sa mga pasya ng artificial intelligence?
• Teknikal na interface: Ang teknikal na interface ang nagdedesisyon kung paano nakikisalamuha ang mga tao sa teknolohiya—ang telebisyon ay nagjadwal sa mga tao bilang pasibong manonood, samantalang ang computer ay nagpapadali sa mga tao upang maging mas malikhaing tagapaglikha. Anong uri ng interface ang maaari nating gawin upang mapabuti at palakasin ng mga sistema ng artificial intelligence ang awtonomiya ng tao?
• Pamamahala sa sistema ng tao at makina: Paano epektibong pamahalaan ng mga tao ang mga koponan na binubuo ng mga tao at mga sistema ng artificial intelligence? Sa kabilang banda, paano ang mga sistema ng artificial intelligence na pamahalaan ang mga koponan na binubuo ng mga tao, artificial intelligence, o ang kombinasyon ng dalawa?

Makilala ang malalaking epekto ng artificial intelligence:

• Epekto sa pag-uugali: Tulad ng ang mga sosyal na media na nagdudulot ng pagbabago sa pag-uugali ng mga tao, maaari rin ng artificial intelligence na magbago sa pag-uugali ng tao. Anong mga paraan ng pagmamasid o pagsukat ang makakatulong sa mga mananaliksik na maunawaan ang dinamikong pagbabagong ito?
• Pagpapalakas ng pananaliksik: Mayroon bang transparenteng mekanismo at mga kasangkapan na nagpapahintulot sa malawakang publiko (hindi lamang sa mga nangungunang kumpanya ng artificial intelligence) na madaling suriin ang mga aplikasyon ng artificial intelligence sa tunay na mundo?

Pag-unawa at Paggamit ng mga AI Model:

• Ang "mga halagahan" ng sistema: Ano ang mga halagahan na ipinapahayag ng isang artificial intelligence system? Paano nauugnay ang mga halagahang ito sa paraan ng pagtatrain ng sistema? Mas partikular, paano natin masusukat ang epekto ng "komposisyon" ng artificial intelligence sa kanyang pagkilos pagkatapos ng pag-deploy? Iiwasan natin ang aming nakaraang pag-aaral tungkol sa mga tanong na ito.
• Paggawa ng mga sariling matalinong agente: Anong mga aspeto ng umiiral na batas, pamamahala, at mekanismo ng pagkakasala ang maaaring magamit sa mga sariling matalinong AI na agente? Halimbawa, paano trato ng batas-dagat ang problema ng pabayaan ang barko, at kung paano ito may kaugnayan sa pagtrato ng batas sa mga matalinong agente na walang pagmamalaki. Sa kabaligtaran, mayroon bang mga aspeto sa umiiral na batas na nagsisilbing aplikable sa mga matalinong AI na agente ngunit hindi dapat magamit?
• Kasiguraduhan ng agent: Anong mga aspeto ng autonomous AI agent ang maaaring ayusin upang makatugon sa umiiral na batas, pamamahalaan, at mekanismo ng pagkakasala? Halimbawa, maaari ba naming siguraduhin na ang AI agent ay may natatanging at mapagkakatiwalaang pagkakakilanlan, kahit walang direkta na tao na kontrol?
• Paggawa ng artificial intelligence sa paggawa ng artificial intelligence: Paano natin maipapakita nang epektibo ang artificial intelligence upang pamahalaan ang mga sistema ng artificial intelligence? Sa anong mga aspeto ng pagregula ng artificial intelligence may komparatibong kahusayan ang tao, o kailangang “maging bahagi” ayon sa batas o mga norma?
• Interaksyon ng agent: Ano ang mga norma ang lalabas kapag nag-iinteraksyon ang mga artificial intelligence agent? Paano ipinapahayag ng iba’t ibang agent ang kanilang iba’t ibang pagpapahalaga, at paano ito nakakaapekto sa iba pang agent?

AI-driven research and development

Dahil sa patuloy na pagpapalakas ng mga sistema ng artificial intelligence, ang mga siyentipiko ay gumagamit nito para sa mas maraming pag-aaral. Ibig sabihin nito, mas maraming siyentipikong pag-aaral ang ginagawa nang may mas kaunting tao o kahit walang tao, sa pamamagitan ng autonomous o semi-autonomous na paraan. Sa larangan ng pag-aaral sa artificial intelligence, ang mga mas makapangyarihang sistema ay maaaring gamitin upang likhain ang kanilang sariling susunod na bersyon. Kami ay minsan ay tatawagin ang ganitong modelo bilang “artificial intelligence-driven AI research.”

Ang pag-unlad ng artificial intelligence na dinadala ng artificial intelligence ay maaaring maging “natural na benepisyo” sa pagbuo ng mas matalino at mas makapangyarihang mga sistema. Tulad ng paunlad sa kakayahan sa pag-code na nagdulot ng network capability na militar at sibil, ang pag-unlad sa scientific capability ay maaaring magdulot ng biotech capability na militar at sibil, ang pag-unlad sa kompleks na teknikal na trabaho ay maaaring natural na magdulot ng mga sistema ng artificial intelligence na makakapag-develop ng sarili nilang artificial intelligence.

Ang pag-unlad ng artificial intelligence na dinudulot ng artificial intelligence ay may malaking potensyal na panganib. Mahalaga para sa mga tagapagpasya na maunawaan ang trend sa bilis ng pag-unlad ng AI, at kung ang pag-aaral ng AI ay magiging nagdudulot ng epekto ng compound interest.

Artificial intelligence for artificial intelligence development

• Pamamahala sa pag-unlad ng artificial intelligence: Kung ang mga sistema ng artificial intelligence ay ginagamit para sa sariling pag-unlad at pagpapabuti, paano makakapag-ehersisyo ng epektibong pag-unawa at kontrol ang mga tao sa mga sistemang ito? Sa huli, ano ang magiging pamamahala sa mga sistemang ito?
• Pagsasanay sa pagtugon sa impormasyong pambobomba: Paano natin isasagawa ang pagsasanay sa pagtugon sa impormasyong pambobomba? Paano ipagagawa ang desktop exercise upang talagang subukan ang kakayahan sa pagdedesisyon ng mga lider ng laboratorio, ang board, at ang gobyerno?
• Telemetry sa pag-unlad ng AI: Paano natin matutukoy ang pangkabuuang bilis ng pag-unlad ng AI? Anong mga teknolohiya ng telemetry at panaoing teknikal na suporta ang kailangan upang makalap ng impormasyong ito? Paano maaaring gamitin ang mga tukoy na indikador kaugnay ng pag-unlad ng AI bilang mga early warning signal para sa rekursibong sariling pagpapabuti?
• Pagsisiguro ng pagpapabilis ng artificial intelligence: Kung ang intelligent explosion ay darating, anong mga punto ng interbensyon ang makakatulong na pigilan o baguhin ang bilis ng ganitong pagpapabilis? Kung ang tao ay may kakayahang interbensiya, sino ang dapat magkaroon ng kapangyarihang ito—gobyerno? Mga kumpanya?

Ang paggamit ng artificial intelligence sa larangan ng R&D—ang pagmumula ng artificial intelligence sa iba pang larangan ng pananaliksik:

• Teknolohiyang puno: Ang pagpapabilis ng artificial intelligence sa ilang larangan ng agham ay mas malaki kaysa sa iba, depende sa availability ng data, mga pagsusuri, at kung gaano karaming kaalaman ay implisitong kaalaman o nakakabawas sa institusyonal na pagkakasunod. Gaano kahindi pantay ang antas ng pag-unlad na ito? Ano ang mga problema ng tao ang maaaring masundan nang una dahil sa mga pagbabagong dulot ng pag-unlad sa agham?
• Mga hamon sa harap: Mas malakas ang kakayahan ng mga modelo sa ilang mga larangan kaysa sa iba. Ang mga larangan na may malaking positibong panlabas na epekto—tulad ng pagbuo ng gamot at agham ng materyales—ay nakakatanggap ng mas mababang pagsisikap kaysa sa kanilang halaga. Ang pamilihan ang nagdidirekta sa direksyon ng pagpapabuti ng mga modelo batay sa pribadong kikitain, ngunit maaari ba nating pagbutihin ang performans ng mga modelo upang tugunan ang panlipunang panlabas na epekto?

Nakuha mula sa WeChat public account na "Value Research Institute" (ID: jiazhiyanjiusuo), may-akda: Dingxi