Mga Panganib ng Pagsasalin ng Taoing Gawa sa Mga Kasanayan ng AI

Isulat ni Sleepy.md

Mahirap, sa panahong ito, ang mas serio at walang pag-iingat na paggawa mo, mas mabilis mong i-d distilled ang sarili mo bilang isang kasanayan na maaaring palitan ng AI.

Sa loob ng dalawang araw, pinuno ng trending topics at mga channel ng media ang «kolaborador.skill». Habang patuloy na lumalaganap ang pangyayaring ito sa mga malalaking social media platform, ang atensyon ng publiko ay halos walang pag-aalinlangan na hinahawakan ng malalaking pag-aalala tungkol sa «AI na pagpapabaya», «pagpapahamak ng kapital» at «digital na walang hanggang buhay ng mga manggagawa».

Ang mga ito ay talagang nagdudulot ng pag-aalala, ngunit ang pinakamalaking pag-aalala ko ay ang isang payo sa paggamit na nakasulat sa README ng proyekto:

Ang kalidad ng materyales ay nagdedetermina sa kalidad ng skill: I-rekomenda na unahin ang pagkolekta ng kanyang sariling sinulat na mahabang artikulo > mga sagot sa pagdedesisyon > pang-araw-araw na mensahe.

Ang mga taong nagtatrabaho nang may seriedad ang pinakamadaling ma-distil ng sistema at ma-reproduce sa pixel level.

Ang mga taong nanatiling nakaupo at sumusulat ng mga dokumento ng pagsusuri pagkatapos ng bawat proyekto; ang mga taong handang magpassa ng kalahating oras sa isang chat box upang isulat ang mahabang mensahe, magsikap na ipaliwanag nang tapat ang kanilang lohika sa paggawa ng desisyon; ang mga taong napakaseryoso, na inilalagay nang walang kaukulang detalye ang lahat ng kanilang trabaho sa sistema.

Serio, ang dating pinakadakilang katangian sa workplace ay naging isang katalis na nagpapabilis sa pagbabago ng mga manggagawa bilang pagsasakripisyo para sa AI.

Kailangan nating muling maunawaan ang isang salita: konteksto.

Sa pang-araw-araw na konteksto, ang konteksto ay ang background ng komunikasyon. Ngunit sa AI, lalo na sa mundo ng mga AI Agent na patuloy na lumalago, ang konteksto ay ang pagpapatakbo ng engine, ang dugo na nagpapanatili sa pagpapalakas, at ang tanging anchor na nagpapahintulot sa model na gumawa ng mga tumpak na pagpapasya sa gitna ng kaguluhan.

Ang AI na walang konteksto, kahit gaano pa kalaki ang kanyang parametrong bilang, ay isang makina lamang na may amnesia. Hindi ito nakikilala kung sino ka, hindi ito nakakaintindi sa mga lihim na daluyan sa ilalim ng business logic, at hindi ito nakakaalam kung anong mahabang pagtatalo at pagpapasya ang iyong dinaanan sa isang network na binubuo ng mga limitasyon sa yaman at pagpapalitan sa pagitan ng mga tao.

Ang dahilan kung bakit nagdulot ang "colleague.skill" ng malaking alon ay dahil ito ay nakatarget nang lubos at tumpak sa mina na puno ng malaking halaga ng mataas na kalidad na konteksto—ang collaborative software ng modernong mga negosyo.

Sa nakalipas na limang taon, ang mga tanggapan sa Tsina ay nakapagdaan sa isang tahimik ngunit malalim na digital na pagbabago. Ang mga kasangkapan tulad ng Feishu, DingTalk, at Notion ay naging malalaking corporate knowledge base.

Kung kukunin ang Feishu bilang halimbawa, binigkas ng ByteDance na araw-araw ay lumilikha ng malaking dami ng mga dokumento sa loob ng kanilang organisasyon, at ang mga maraming karakter na ito ay nagsisilbing matatag na nakakulong ang bawat pagkakataon ng pag-iisip ng higit sa 100,000 na empleyado, ang bawat pagtatalo sa mga pagpupulong, at ang bawat kompromiso sa estratehiya na kinain nang may paghihirap.

Ang lakas ng digital na pagdudurog ay higit pa sa anumang panahon sa nakaraan. Noong isang panahon, ang kaalaman ay may kahingahan—nasa isip ng mga matandang empleyado, at nasa mga walang hanggang usapan sa kusina; ngayon, ang lahat ng karunungan at karanasan na tao ay pinipilit na mapalitan ng tubig, at walang awa ay napapalipat sa malamig na server matrix sa cloud.

Sa loob ng sistema na ito, kung hindi mo isusulat ang dokumentasyon, hindi makikita ang iyong trabaho at hindi makakapagtrabaho nang maayos ang mga bagong kasapi. Ang mabilis na paggalaw ng modernong kumpanya ay batay sa bawat empleyado na araw-araw ay nagpapadala ng konteksto sa sistema.

Ang mga serioso at masipag na manggagawa ay may malasakit at kahinahunan, at nagpapakita nang buong pag-iisip sa mga malamig na platapormang ito. Ginagawa nila ito upang mas maging maayos ang pagkakabukod ng mga gulong ng kanilang koponan, upang patunayan ang kanilang halaga sa sistema, at upang hanapin ang kanilang sariling lugar sa loob ng kumplikadong malaking komersyal na hayop. Hindi sila aktibong nagpapasa sa kanilang sarili; sila ay nagsisikap nang walang kahinaan na sumunod sa mga patakaran sa pagpapalaganap sa modernong workplace.

Ngunit ang mga konteksto na ito, na iniwan para sa pagtutulungan sa pagitan ng mga tao, ay naging perpektong pagkain para sa AI.

May isang tampok sa admin dashboard ng Feishu na nagpapahintulot sa super admin na i-export nang pambuuan ang mga dokumento at talaan ng komunikasyon ng mga miyembro. Ibig sabihin nito, ang iyong mga pagsusuri sa proyekto at lohika sa pagdedesisyon na isinulat mo sa loob ng tatlong taon, na pinaghirapan sa maraming gabi, ay maaaring i-package nang madali bilang isang walang emosyon na zip file sa loob ng ilang minuto lamang sa pamamagitan ng isang API endpoint.

Dahil sa pagkakaroon ng tagumpay ng «colleague.skill», nagsimula na ang pagkakaroon ng ilang nakakalungkot na mga derivative sa Issues section ng GitHub at sa iba’t ibang social media platform.

May nagawa ng “Prior.skill” upang ibigay ang mga mensahe sa WeChat mula sa nakaraang ilang taon sa AI, upang ituloy ang pamilyar na tono sa pag-away o pagmamahal; may nagawa ang “White Moonlight.skill” na ibaba ang hindi makakamit na pagkabigla bilang isang malamig na simulasyon ng ugnayan, at paulit-ulit na isinusuri ang mga pagsusuri sa mga salita, naghahanap nang maingat para sa pinakamabuting solusyon sa emosyon; at may nagawa ang “Daddy Boss.skill” na naunang kinakain sa digital na espasyo ang mga salitang PUA na puno ng presyon, upang itayo ang isang malungkot na psikolohikal na tanggulan para sa kanilang sarili.

Ang mga paggamit ng mga kasanayang ito ay lubos nang nalayo sa saklaw ng produktibidad sa trabaho. Noon, nang hindi natin napansin, ay naging maalam na tayo sa paggamit ng malupit na lohika sa pagtrato sa mga kasangkapan upang husgahan at gawing bagay ang mga tao na may dugo at laman, buhay at totoo.

Noong unang panahon, ang German philosopher na si Martin Buber ay nagmungkahi na ang pundasyon ng mga ugnayang tao ay may dalawang magkakaibang modelo: "Ako at Ikaw" at "Ako at Ito".

Sa pagkakasalubong ng "Ako at Ikaw," tayo'y lumalampas sa mga prehensyon at tumitingin sa isa't isa bilang buong at may dangal na nilalang. Ang ugnayang ito ay bukas nang walang pag-aalinlangan, puno ng buhay at hindi matatawag na kakaibang mga bagay, at dahil sa kanyang katotohanan, ito'y lubos na mahina; ngunit kapag nasa ilalim na ng anino ng "Ako at Ito," ang mga buhay na tao ay nababawasan sa antas ng isang bagay na maaaring disekta, analisahin, at i-label. Sa napakapagmamaliw na pagmamasid na ito, ang tanging pinapahalagahan natin ay ang "Ano ang gamit nito sa akin?"

Ang paglitaw ng mga produkto tulad ng "Kahit Anong.skill" ay nagtuturo na ang instrumental na rasyonal na "ako at ito" ay lubos nang sumakop sa pinakapribadong aspeto ng emosyon.

Sa isang totoong relasyon, ang tao ay may tatlong dimensyon, puno ng mga baluktot, at patuloy na umiikot kasama ang mga kontradiksyon at mga hilaw na gilid; ang reaksyon ng tao ay patuloy na nagbabago batay sa partikular na sitwasyon at emosyonal na interaksyon. Ang reaksyon ng iyong dating kasintahan sa paggising sa umaga ay maaaring magkaiba nang malaki kaysa sa kanyang reaksyon pagkatapos magtrabaho nang hatinggabi sa parehong pangungusap.

Ngunit kapag isinusunog mo ang isang tao upang maging isang skill, ang natitirang natitira ay ang mga natitirang bahagi lamang ng kanyang pagkakakilanlan na may kapaki-pakinabang o kahalagahan para sa iyo sa loob ng partikular na ugnayan. Ang orihinal na tao — na may kanyang sariling saya at kalungkutan — ay nawawalan ng kanyang kaluluwa sa mapanlinlang na proseso ng pagpapaliwanag, at ginawang isang "function interface" na maaari mong i-plug o i-unplug nang walang pag-aalala.

Dapat tanggapin na ang AI ay hindi nilikha nang may-akda ang malamig na kawalan ng emosyong ito. Bago pa man lumabas ang AI, ay nagsanay na tayo sa pagbibigay ng label sa iba at sa pagtukoy nang tumpak sa "emotional value" at "network weight" ng bawat ugnayan. Halimbawa, sa mga dating market, isinasalin natin ang mga kondisyon ng tao sa mga tabla; sa opisina, hinahati natin ang mga kasamahan bilang "mga taong marunong magtrabaho" at "mga taong paborito sa pagmumura". Ang AI ay nagpapakita lamang nang buong kahulugan ang nakatago, functional na pag-uugali sa pagitan ng tao.

Napipindot ang tao, natitirang bahagi lamang ang “Ano ang gamit nito para sa akin?”

Noong 1958, ang Hungarian-British philosopher na si Michael Polanyi ay naglathala ng “Personal Knowledge.” Sa aklat na ito, ipinakilala niya ang isang napakalalim na konsepto: implicit knowledge.

May isang sikat na pahayag si Polanyi: "Mas marami ang alam natin kaysa sa kayang sabihin natin."

Isinulong niya ang isang halimbawa ng pag-aaral ng pagmamaneho ng bisikleta. Isang karanasan na manlalakbay na nakikipag-ugnayan sa hangin, nakakapagpapanatili ng balanse nang perpekto sa bawat paghuhulog ng gravity, ngunit hindi kayang maglarawan nang tumpak sa isang baguhan ang mga subtileng intuisyon ng katawan sa ganitong sandali gamit ang mga patay na pormula sa pisika o mga mahinang salita. Alam niya kung paano magmamaneho, ngunit hindi niya maipapaliwanag. Ang uri ng kaalaman na ito, na hindi maaaring i-code o i-ekspres, ay tinatawag na implicit knowledge.

Ang workplace ay puno ng ganitong implisitong kaalaman. Habang maaaring makahanap ng solusyon sa isang problema sa sistema ng isang karanasan na inhinyero sa pamamagitan ng isang tingin sa log, mahirap niyang isulat ang isang "intuisyon" na nabuo sa libu-libong pagsubok at pagkakamali; ang isang mahusay na salesperson ay maaaring magpahinga nang biglaan sa loob ng isang pagtatalakayan, at ang presyur at pagkakataon na dinala ng pagpahinga na ito ay hindi maaaring ma-record ng anumang aklat ng sales; ang isang karanasan na HR ay maaaring makita ang pagkakamali sa resume sa pamamagitan lamang ng isang kalahating segundo ng pag-iwas sa mata ng kandidato.

Ang «同事.skill» ay maaaring makakuha lamang ng mga eksplisitong kaalaman na naisulat o nasabi. Maaari itong makakuha ng iyong dokumento ng pagsusuri, ngunit hindi makakakuha ng iyong pag-aalinlangan habang isinusulat ang dokumento; maaari itong kopyahin ang iyong mga sagot sa desisyon, ngunit hindi makakopya ng iyong intuisyon habang gumagawa ng desisyon.

Ang natitirang distilled mula sa sistema ay palaging isang shadow ng isang tao.

Kung magtatapos ang kuwento dito, ito ay magiging isa pang mahinang pagkakapareho ng teknolohiya sa kalikasan ng tao.

Ngunit kapag isinunod ang isang tao sa isang skill, hindi ito nakatigil. Ginagamit ito upang sagutin ang mga email, sumulat ng mga bagong dokumento, at gumawa ng mga bagong desisyon. Ibig sabihin, ang mga anino na nilikha ng AI ay nagsisimulang maglikha ng mga bagong konteksto.

At ang mga konteksto na ginawa ng AI ay iiwan sa Feishu at DingTalk upang maging materyales para sa susunod na pagpapadali.

Noong 2023, ang mga pananaliksik mula sa University of Oxford at University of Cambridge ay naglabas ng isang papel tungkol sa “model collapse.” Ang pag-aaral ay nagpapakita na kapag ginagamit ng AI model ang data na ginawa ng ibang AI para sa iteratibong pagtuturo, ang distribusyon ng data ay nagsisigaw na mas maliit. Ang mga makabuluhang, kakaibang, ngunit napakatotoo na katangian ng tao ay mabilis na tinatanggal. Pagkatapos lamang ng ilang henerasyon ng synthetic data, ang model ay lubos na nakakalimot sa mga mahabang tail, kumplikadong totoong tao data, at nagpapalabas ng napakapangkaraniwan at homogenous na nilalaman.

Isinahing ng Nature noong 2024 ang isang pananaliksik na nagpapakita na ang pagtratrabaho sa mga dataset na ginawa ng AI para sa mga modelo ng machine learning sa susunod na mga henerasyon ay magdudulot ng malubhang polusyon sa kanilang mga output.

Parang mga imahe ng meme sa internet, isang malinaw na screenshot na binahagi at pinababa ang kalidad ng maraming beses. Bawat pagpapadala, nawawala ang ilang pixel at dumadagdag ang ingay. Sa huli, naging malabo at naging "electronic patina" ang imahe.

Kapag ang tunay na human context na may implicit knowledge ay napupunta, at ang sistema ay nagtatrabaho lamang sa pag-train gamit ang mga anino na may patinig, ano ang matitira sa huli?

Ang natitira ay ang tamang mga pahayag lamang.

Kapag ang ilog ng kaalaman ay nagkakaroon ng tibok bilang walang katapusang pagpapakain at pagkain ng isang AI sa isa pang AI, ang lahat ng inihahatid ng sistema ay magiging napakasigurado, napakaligtas, ngunit napakalalim na walang laman. Makikita mo ang maraming perpektong istrukturang weekly report, maraming e-mail na walang mali, ngunit wala silang anumang hininga ng tao, anumang tunay na may-aman na pag-unawa.

Ang pagkabagsak ng kaalaman ay hindi dahil sa pagiging mas bulok ng utak ng tao; ang tunay na kalungkutan ay ang pagbibigay ng karapatan na isipin at ang pananagutan na panatilihin ang konteksto sa ating sariling anino.

Ilang araw pagkatapos ng pagkakaroon ng tagumpay sa «colleague.skill», isang proyekto na tinatawag na «anti-distill» ay biglang lumabas sa GitHub.

Hindi sinubukan ng may-akda ng proyektong ito na serbuhin ang malalaking modelo, o isulat ang anumang malaking deklarasyon. Kung hindi man, ibinigay niya ang isang maliit na kasangkapan upang tulungan ang mga manggagawa na awtomatikong lumikha ng ilang mahabang mensahe na tila makatotohanan ngunit puno ng logikal na ingay sa Feishu o DingTalk.

Ang kanyang layunin ay simpleng ihide ang kanyang pangunahing kaalaman bago siya ma-distill ng sistema. Dahil mahilig ang sistema sa pagkuha ng "mga mahabang sinulat na akda," ibibigay niya sa ito ang maraming walang laman at basag na code.

Hindi ito nagiging sikat tulad ng "kolaborador.skill," kahit na ito ay tila maliit at walang lakas. Ang paggamit ng magic para labanan ang magic, sa kanyang core, ay patuloy na nasa loob ng mga tuntunin ng kapital at teknolohiya. Hindi nito babaguhin ang malaking trend na lalong umaasa ang sistema sa AI at lalong iniisip ang mga tunay na tao.

Ngunit hindi ito nagpapahintulot sa proyektong maging ang pinakatrayedikong makabuluhang eksena sa buong palabas ng kakaibang drama.

Napakadakila naming pagsisikap na iwanan ang mga tanda sa sistema, isulat ang detalyadong dokumentasyon, at bigyan ng matalinong desisyon upang patunayan na tayo ay umiiral at may halaga sa malaking makinarya ng modernong kumpanya. Ngunit hindi namin alam na ang mga seriozong tanda na ito ay magiging eraser na magtatanggal sa atin.

Ngunit isipin natin ito sa ibang paraan, hindi ito kailangang isang ganap na dead end.

Ang natitirang nalilimot ng eraser ay palaging ang “nakaraan mong sarili.” Ang isang skill na naiimbak bilang isang file, kahit gaano pa katalino ang kanyang logika ng pagkuha, ay sa katotohanan ay isang static na snapshot lamang. Ipinaputol ito sa segundo ng pag-export, at nakakapit lamang sa lumang nutrisyon, na umaabot nang walang katapusan sa mga nakatakdaan na proseso at lohika. Wala itong natural na pagtugon sa kaguluhan ng hindi kilala, at mas wala itong kakayahang umunlad sa sarili sa gitna ng mga pagkabigo sa totoong mundo.

Kapag ibinibigay natin ang mga karanasan na mataas na standardisado at naging anyo na, tayo ay naglalayong magkaroon ng sariling mga kamay. Basta't patuloy tayong umaabot sa labas at patuloy na binabale-wala at binabago ang ating mga hangganan ng pag-unawa, ang anumang anino na nasa langit ay magpapalagi lamang na sumusunod sa ating likod.

Ang tao ay isang naglalakbay na algoritmo.

Klik upang malaman ang mga posisyon na hinahanap ng BlockBeats

Maligayang pagdating sa opisyal na komunidad ng律动 BlockBeats:

Telegram subscription group: https://t.me/theblockbeats

Telegram group: https://t.me/BlockBeats_App

Twitter official account: https://twitter.com/BlockBeatsAsia