Sa Panahon ng AI, Ang System Thinking Ay Naging Pinakakakulang na Kasanayan

Isulat ni GritMeng

Ngayon, aming dinadanas ang isang walang katulad na “pagsabak ng kasanayan.” Ang pagpaprograma, disenyo, pagsulat ng nilalaman, pag-analisa ng data… ang mga propesyonal na kasanayan na dating nangangailangan ng sampung taon ng pag-aaral upang maunawaan, ay pinapalitan ng mga malaking modelo sa isang bilis na katulad ng liwanag. Nadarama ng halos bawat propesyonal sa kaalaman ang isang malalim na sakit: ang aking nakikita bilang “kasanayan,” ay mabilis na bumababa sa sero.

Kaya isinilang ang isang bagong “paradoks sa propesyon”:

• Ang bawat tao sa iyong team ay gumagamit ng AI para mabilisang pataasin ang kanilang produktibidad, ngunit ang pangkabuuang desisyon ng kumpanya ay naging mas bulok.
• Ang bawat departamento—produkto, operasyon, at pamilihan—ay ginamit ang AI upang mapabuti ang KPI hanggang sa maksimo, ngunit ang resulta ay ang malaking pagbaba ng user experience at kita.
• Ang isang kumpanya ay naglabas ng maraming milyon para i-implement ang pinakamoderno na AI system, ngunit ang pagkakatawal ng produksyon sa pabrika ay bumalik pa rin sa Excel at manual na pagpapatotoo.

Sobrang matigas ang sagot: Ginagamit namin ang isang “algorithmic mad horse” na may ekstremong computing power para tulungan ang isang sira at pinagsamang sasakyan mula sa “single-point thinking.” Kapag lahat ay nakasalalay sa pagpapalutas ng AI sa “point-based problems,” isang system-wide collapse ang nasa harap natin.

Sa panahon ng AI, ang pinakakakulang na kakayahan ay naging ganap na “ano ang dapat gawin” kaysa sa “paano gawin nang tama.” Ang kakayahan na ito, tinatawag kong system thinking.

Sa nakalipas na apat na daan taon, ang industriyal na kabihasnan ay nag-install sa ating isip ng pinakamalakas na software: ang reduksyonismo. Ipinagtuturo nito sa atin na hatiin ang mga kumplikadong problema sa mga hiwalay na bahagi, optimisahin ang bawat isa, at muli ay i-assembly sa buong sistema. Ang paraang ito ang naglikha ng ating kasalukuyang materyal na pag-unlad.

AI, ang tamang huling armas ng “reductionism.” Bigyan mo ito ng malinaw na layunin, at sa loob ng isang segundo ito ay maaaring suriin ang lahat ng solusyon na hindi mo kayang kalkulahin sa buong buhay mo.

Ngunit ang katotohanan ng mundo ay: hindi ito isang makina na maaaring随意拆装, kundi isang dinamikong network kung saan ikaw ay may ako, at ako ay may ikaw. Sa network na ito, ang ekstremong pagpapabuti sa isang bahagi ay madalas ay isang patayong pag-atake sa buong sistema.

Ipinag-aral ko ang supply chain sa loob ng 22 taon at nakakita ako ng maraming tulad ng trahedya na ito: ang procurement department ay ginamit ang AI upang bawasan ang gastos sa materyales sa pinakamababang antas, ngunit ito ay nagdulot ng pagpapababa ng kalidad ng mga supplier sa itaas, na nagresulta sa pagbagsak ng reputasyon ng brand. Ang finance department ay pinakamahusay na in-optimize ang inventory turnover gamit ang AI, ngunit ang production line ay tumigil nang buo dahil sa kulang sa isang screw. Ang marketing department ay nagpataas ng click-through rate sa pinakamataas sa industriya gamit ang AI, ngunit dahil sa sobrang pagpapahayag, ang customer service team ay nabaha ng mga reklamo.

Ito ang trahedya ng “mga matalino.” Kung ang mga tagapagdesisyon ay walang sistemang pag-iisip at tingnan ang AI bilang isang “single-point accelerator,” ang AI ay magiging parang isang engine na walang braked, na dadalhin nito ang buong organisasyon sa pagkabagsak sa pinakamabilis na bilis. Mayroong espesipikong pangalan sa sistemang agham para dito—Goodhart collapse: kapag sobra ang pag-optimize sa isang indikador, hindi na ito isang mabuting indikador.

Marami ang nagsasamantala sa “system thinking” bilang “pag-iisip nang mas komprehensibo” o “paggawa ng isang mind map.” Ngunit sa aking 22 taong pag-aaral sa pamamahala ng mga kumplikadong sistema, natuklasan kong ang totoong system thinking ay isang malinaw na ilarawan na cognitive operating system. Binubuo ito ng tatlong pangunahing kakayahan:

1. Boundary power: Ang pag-optimize mo ay sarili nito ang pinakamapanganib na pagpili.

Laging naghahanap ng pinakamabuting solusyon sa loob ng mga hangganan at layunin na ibinigay ng AI. Ang unang hakbang ng sistemang pag-iisip ay ang pagsusuri sa mga hangganan mismo.

Madalas kong binibigyang halimbawa: Kung ipapatawag mo sa AI na “papalakasin ang kita ng kumpanyang ito,” maaari itong magbigay ng “pinakamainam na solusyon” sa ilang miliyong segundo na kailangan ng tao ng ilang daan-daang taon para isipin—layuan lahat ng mga empleyado, benta lahat ng mga ari-arian, at ilagay ang pera sa bangko para makakuha ng interes. Perpektong natutupad ang layunin, ngunit namatay ang kumpanya.

Mas mahalaga kung paano mo ipinapakita ang problema kaysa kung paano lutasin ito ng AI. Kung ililipat mo ang hangganan ng supply chain mula sa “pinakamababang gastos sa pagbili” patungo sa “kabuuang epekto sa pondo sa buong buhay ng produkto,” magkakaroon ng iba’t ibang desisyon ka. Kung ililipat mo ang hangganan ng produkto mula sa “tagal ng paggamit ng user” patungo sa “matagalang halaga ng user,” babaguhin ng buo ang iyong business model.

2. Pwersa ng sariling loop: Kayabang mo bang makita ito bago mangyari ang Butterfly Effect.

Ang first-order thinking ay tumitingin lamang sa direkta at sanhi-akibat: A ay nagdudulot ng B, B ay nagdudulot ng C. Ang system thinking ay tumutok sa mga pagkakatigil na positibo at negatibong feedback loop—A ay nagdudulot ng B, ngunit ang B ay nagpapalakas ng A tatlong buwan pagkatapos; ang C at D ay tila walang kaugnayan, ngunit sa pamamagitan ng isang nakatagong variable na E, sila ay nagpapahamak sa isa't isa.

Ginagawa mo ngayon ang pag-generate ng 100 na marketing articles gamit ang AI, na nagdudulot ng malaking pagtaas ng traffic sa maikling panahon, ngunit tatlong buwan pagkatapos ay magdudulot ng malaking pagbagsak sa tiwala ng mga user sa brand. Ginagamit mo ang supply chain nang maingat para makamit ang target sa quarterly performance, kaya ang iyong financial report ay mukhang mabuti sa maikling panahon, ngunit anim na buwan pagkatapos ay magkakaroon ng pagsabay na pagtaas ng presyo mula sa mga supplier, at ang iyong cost structure ay mapapalit nang permanente.

Ang mga tagapag-isip ng sistemang nagkakaroon ng kakayahang makita ang destruktibong negatibong feedback sa unang araw.

3. Kakayahang mag-restructure: Dapat mo bang suriin at sirain ang iyong sariling “model ng pag-iisip”?

Mayroong panghabang-buhay na pagkakaiba sa pagitan ng anumang AI model, anumang teorya ng pamamahala, o anumang karanasan sa tagumpay, at ang tunay na kumplikadong mundo. Tawag ko ito sa residual.

Ang mga karaniwang tao ay nag-iisip na walang halaga ang residual, ang mga matalino ay gumagamit nito upang mai-adjust ang modelo. Ngunit ang mga tagapag-isip ng sistema, may tapang na paganapin ang kanilang sariling “metacognition” sa utak—lumabas sa kanilang palaging ginagamit na framework ng pag-iisip, suriin ito, at tanungin ang pinakamatinding tanong: “Baka ang mga bagay na palaging iniisip kong tama, ang dahilan ng problema?”

Ang tunay na inobasyon ay laging nangyayari sa residual. Ang tunay na pagbabago ng paradigma ay laging nagmumula sa mga taong may tapang na sirain ang kanilang sariling lumang framework.

Bakit hindi makapagbuo ng system thinking ang AI? Dahil hindi ito “kulang sa computing power”, kundi “mali ang hardware”.

Sa ilalim ng sistemang pag-iisip ay isang natatanging limang-dimensyonal na mental na operating system ng tao. Ang limang kakayahan na ito ay “hard-coded” nang mahigpit sa iba’t ibang neural network ng ating utak:

• Konsensya (Esp): Tumutugon sa Default Mode Network (DMN). Nagtatakda ng huling hangganan sa sistema, kumikita ng braked nang malapit nang mabagsak sa kliban. Wala ito sa AI—ipinapahintulot mo sa ito na “maximize ang kita,” at talagang iiwasan nito ang kumpanya.
• Highly sensitive: tumutugon sa sistema ng amygdala-locus coeruleus. Tulad ng isang masusing radar, nakakakita ng pinakamaliit na anomaliya na nasa likod ng mga ulat at data. Maraming malalaking desisyon sa negosyo ay hindi nagmula sa pag-analisa ng data, kundi sa malalim na pagkakaintindi ng tagapagdesisyon sa mga pagbabago sa merkado—isang pakiramdam na “hindi maipapaliwanag pero may kakaibang bagay.”
• Sensory: Tumutugon sa Significance Network (SN). Ito ang iyong “intuition cache” na nakakapag-aktibo ng buong karanasan mo sa isang napakababaw na enerhiya, upang gawin ang mga ambigong ngunit tamaang desisyon. Kapag lahat ng data ay nagtuturo sa isang direksyon, ngunit ang iyong intuisyon ay nagsasabing “hindi ito tama,” hindi iyon paniniwala—ito ay ang iyong utak na gumagamit ng isang mas kumplikadong sistema ng pagkilala sa pattern kaysa sa anumang AI.
• Fluid intelligence: Nakakatugon sa frontoparietal control network (FPN). Ang iyong engine para sa lohikal na kalkulasyon. Sa dimensyong ito, ang AI ay ang aming pinakamahusay na kompensasyon. Ibigay ang kalkulasyon sa silikon, at panatilihin ang pagdedesisyon sa sarili mo.
• Metacognition (Φ): Nagkakatugma sa prefrontal pole cortex (BA10). “Pangulo” ng sistemikong pag-iisip. Nakakalabas ito sa iyong sariling framework ng pag-iisip, upang suriin, kritikahin, at huli ay muling isulat ang iyong proseso ng pag-iisip. Ito ang pinakamalikhaing produkto ng evolusyon ng utak ng tao, at ang walang-kakayahang hadlang na hindi kayang laktawan ng AI na batay sa silikon.

Ang silikon-based na AI ay isang pinakadakilang pinapalawig na dimensyon ng "fluid intelligence". Samantala, ang sistemikong pag-iisip ay nangangailangan ng komprehensibong koordinasyon ng limang dimensyon. Ito ang pinakamatibay at pinakakakailangang "neural constitution" ng carbon-based na buhay sa panahon ng digital na kabihasnan.

Maging “System Architect” ay hindi imposible. Narito ang tatlong prinsipyo na maaari mong agad gawin:

1. Mula sa “tanggapin ang utos” patungo sa “tukuyin ang mga hangganan”.

Bago magsimula ng anumang AI na gawain, tanungin ang sarili mo ng tatlong system-level na tanong:

• Saan talaga ang hangganan ng tanong na ito? Ano ang mga mahahalagang baryable na inalis?

• Ano ang mga second-order at third-order ripple effects na dulot ng solusyon ng AI?

• Ang KPI na hinahangad natin, ba’t naging isang “proxy metric” na makakasira sa kompanya?

2. I-upgrade mula sa “Optimize ang proseso” patungo sa “Disenyo ng feedback loop”.

Huwag isagawa ang AI bilang isang machine na gumagawa nang walang feedback. Magdagdag ng isang “monitoring radar” na makakakita ng buong estado. Ibigay ang malinaw na patakaran: kailangang i-trigger ang tao o awtomatikong pagsasara kapag sinira ang mga sistemang red line. Gamitin ang konsiyensya ng karbon upang ilagay ang braked sa kapasidad ng silikon.

3. Mula sa "paghahanap ng katiyakan" patungo sa "pagsasalang ng residual."

Huwag mag-focus lang sa mga tamang gawin ng AI. Tignan ang “residual” sa pagitan ng mga paghuhula ng AI at ang tunay na resulta. Doon ay nawawalan ng bisa ang mga lumang modelo ng pag-iisip, doon ay hindi natutugunan ang totoong problema ng customer, doon ay ang pagkakapirme ng organisasyon at ang pagkabulok ng mga proseso. Ang residual ay ang iisang, tunay na simula ng lahat ng disruptive innovation.

Sa panahon ng agrikultura, ang pinakamahal ay ang lakas ng katawan. Sa panahon ng industriya, ang pinakamahal ay ang teknolohiya. Sa panahon ng impormasyon, ang pinakamahal ay ang kaalaman.

Sa panahon ng AI, ang pinakamahal ay ang sistemang pag-iisip.

Kapag ibinaba ng AI ang hadlang sa pagkuha ng kaalaman at lokal na pag-optimize hanggang sa sero, ang kompetisyon ng kabihasnan ay naglipat nang buo sa mas mataas na dimensyon: sino ang makakakita ng buong larawan ng sistema, sino ang makakaintindi sa pagkakabuo at pag-unlad ng kaayusan, sino ang makakagamit ng konsensya at metacognition upang kontrolin ang malaking silikon-based na computing power.

Huwag subukang labanan ang AI sa computing power at memory. Mag-isip ng sarili mong sistemang pag-iisip. Iyon ang pinakamatibay na moog sa panahon ng digital para sa buhay na batay sa karbon, at ang tanging kompas para sa paghahatid sa kinabukasan.