Paano Panatilihin ang Kritikal na Pag-iisip Habang Ang mga AI Agent ay Humahawak sa Trabaho

May-akda: Addy Osmani (Team ng Anthropic Claude Code, kilalang teknikal na arkitekto)

Isinalin: Deep潮 TechFlow

DeepFlow Summary: Habang angagawin nang buong pagkakataon ang mga agentic workflow, ang mga software engineer at product teams ay dumadaan sa malaking pagbabago sa paraan ng pakikipagtulungan ng tao at makina. Ang dating kognitibong buffer na naglalagay ng pag-iisip sa pagitan ng tanong at sagot, ay napapaliit na lamang sa ilang segundo; habang lumalaki ang katotohanan at akurasyon ng malalaking modelo, bumababa nang malaki ang mga eksplisitong pagkakamali, ngunit nagpapadala sa mga tao sa isang kasiyahan sa pagtupad, na nagdudulot ng “pagtatalikod sa kognisyon,” at sa prosesong ito, ang sistemikong pag-unawa at mga pangunahing kakayahan ay nagsisimulang mabilis na mawala.

Bilang dating pangulo ng inhinyerong Chrome ng Google at kasalukuyang pangunahing miyembro ng tim ng Anthropic Claude Code, sinuri nang sistematiko ni Addy Osmani ang paglipat sa spectrum mula sa “cognitive offloading,” “deferred judgment,” hanggang sa “cognitive surrender.” Higit sa paglilinaw sa nakatagong mekanismo ng pagkumpuni ng sistemang pag-unawa, binigyan niya ng isang praktikal at mapaglalaban na estratehiya sa aktibong pagbasa at pagtatanong laban sa araw-araw na daloy ng trabaho, at ipinaliwanag kung bakit kahit na may mas mataas na posibilidad ng tagumpay ang AI, kailangan pa ring ipagtanggol ng tao ang hangganan ng responsibilidad at kakayahang kritikal.

Noong isang panahon, ang kritikal na pag-iisip na itinuturo sa paaralan ay nangangailangan ng pagtanggap sa bagong impormasyon nang may modeste na pagkamalikhain at katamtamang pag-aalinlangan: pagkuha ng lahat ng pananaw, pagdinig sa lahat ng panig, at pagbuo ng sariling malayang pananaw. Ang prinsipyong ito ay patuloy pa ring may kahalagahan, ngunit ngayon, dahil sa karamihan sa aking araw-araw na trabaho ay iniiwan na sa mga agent, halos wala nang anumang bagay sa totoong buhay ang nagpapakialam upang pilitin akong gamitin ang kritikal na pag-iisip.

Para sa mga inhinyero at produkto na nagsasagawa ng mga workflow ng agent, nagpapatakbo ng maraming sesyon nang sabay-sabay sa kanilang araw-araw, at naghihintay sa patuloy na pagpapabuti ng performance ng model, gusto kong unang ipaalam: ako mismo ay isang matapat na tagasunod ng mga kasangkapan na ito. Hindi ko isusulat ang artikulong ito upang ipaglaban ang pagbawas sa paggamit ng mga workflow ng agent.

Ang aking pangunahing layunin ay: sa isang mundo kung saan ang lahat ay maaaring madaling ibinibigay sa mga agent, tulungan ka na manatiling malakas ang iyong kritikal na pag-iisip.

Noong nakaraan, ang karamihan sa pagproseso ng kaalaman at pagpapasya sa estetika ng tao ay nabubuo sa puwang sa pagitan ng tanong at sagot. Ngunit ngayon, ang sukat ng puwang na ito ay nabawasan lamang sa ilang segundo. Mas mahirap panatilihin ang pagiging alerto habang mas lalo kang lumalalim sa paggamit ng mga workflow ng agent (kahit na ang paraan ng pagiging mahirap ay maaaring iba sa inaasahan ng mga tao): habang patuloy na pinapabuti ang mga modelo, ang bahagdan ng mga malinaw na tanga at mali ay bumababa nang malaki. Ang karamihan sa mga nabuong resulta ay isinusulat nang napakadakila at pangkabuuang tama, ngunit eksaktong ang pagiging tila walang kapantay na kahusayan na ito ang nagiging dahilan kung bakit hindi mo nais tingnan ang ikalawang beses.

Kahit na pinapatakbo mo nang sabay-sabay ang mga sampu-sampung agent, ang huling nag-uusisa sa output ay ang iyong sariling mga mata.

Dapat mong aktibong i-embed ang kritikal na pag-iisip sa iyong araw-araw na proseso, dahil sa default state, walang panlabas na puwersa ang magpapakilala para sa iyo.

Ang isa sa mga dahilan kung bakit mahirap para sa mga tao na mag-ayos ng sarili nila ay ang sobrang kasiyahan ng karanasan sa mga workflow ng agent. Sa isang masipag at bulubundukin na araw ng trabaho, ang pagkakaroon ng mabilis na, sapat na magandang, komportable, at pangkabuuang tama mga sagot ay talagang nagpapalakas ng loob; ngunit ito rin ang pinakamalaking sanhi kung bakit madaling nawawala ang pag-iingat at nagpapasuko ang mga tao.

Kapag pinag-uusapan ko ang fenomenong ito kasama ang mga katulad ko, karaniwang ipinapakita ko ito bilang isang tuloy-tuloy na spektrum:

Ang pinakamataas sa spektrum ay ang “cognitive offloading,” kung saan ang mga detalyadong at masalimuot na gawain ay ipinapapagawa sa AI, ngunit ang tao ay patuloy na may ganap na pagmamay-ari at pagkakasangkot sa huling resulta. Ginagawa ko ito araw-araw, at dapat mo rin itong gawin.

Nasa gitna ng spektrum ang “Pagpapahintulot sa Pagkakataon” (Deferral), kung saan ang mga resulta na inilabas ng kasangkapan ay direktang naging bagong input para sa iyong susunod na hakbang, at ang mga lumabas na nilalaman ay hindi na itinuturing bilang isang hipotesis na kailangang i-verify.

Ang pinakamababang antas sa spektrum ay ang “pagsuko sa kognisyon”: ang output ng AI ay naging bahagi ng iyong sariling pananaw nang walang kamalayan, at kahit na ikaw ay may natural na pakiramdam na walang kailangang i-verify ito.

Ang terminong “cognitive surrender” ay ipinakilala ni Steven Shaw at Gideon Nave mula sa Wharton School. Napakatumpak nito sa pagpapatotoo sa aking mga nakikita at naririnig sa huling panahon: habang tumataas ang tiwala sa mga kasangkapan (o lumalalim ang pagiging malazya), ang mga tao ay nagsisimulang bumaba nang walang kamalayan sa spektrum na ito.

Ang ganitong paglilipat ay kadalasang napakalalim at mahirap makita, dahil ang bawat hakbang ay nangyayari nang paulit-ulit at tila makatwiran sa panahon nito: sinuri mo nang mabuti ang nakaraang sagot, kaya sa susunod ay basta lang binasa mo ito nang mabilis; sa susunod pa, basta lang isinisiwala mo ang pangkalahatang balangkas; hanggang sa isang araw, kapag tinanong ka ng isang tao tungkol sa isang linya ng code, biglang nalalaman mong kahit gamit ang tulong ng isang agent, hindi mo kayang ipaliwanag nang maayos ang ilalim na lohika nito.

Ito ang karaniwang pagpapabaya sa pagkakaunawa. Ito ang pinagmulan ng mabilis na pagkumpuni ng “cognitive debt.” Ang ganitong utang ay karaniwang ipinapakita kapag subukan mong gamitin ang pangkalahatang mental model ng sistema, ngunit natutuklasan mong walang laman ang isip mo.

Si Scholar Margaret-Anne Storey ay nagsulat na ang ganitong sitwasyon ay nagpapakita sa pamamagitan ng patuloy na pagkawala ng pag-unawa sa teorya ng sistemang ibinabahagi sa team collaboration. Nagsulat din ako tungkol sa katumbas na pangyayari sa antas ng code, na tinatawag na “Comprehension Debt” (ang terminong ito ay noong ipinakilala ni Jeremy Twei). Sa araw-araw na pagsusulat ng code, ganito ang kalagayan: tila maayos at maganda ang codebase, at lahat ng automated tests ay nagpapasa. Ngunit kapag kailangan ng system ng architectural refactoring, lahat ay nagsisimula na magkakalat: walang sinuman sa team ang talagang nakakaintindi sa sistema. Parehong problema ang nangyayari kapag ikaw ay basta-basta lang sumuri sa table of contents ng isang strategic plan o technical specification at sinasagot mo na ito nang walang mas malalim na pag-aaral.

Dapat malinaw na ipaalala na hindi ako nagpapayo ng isang hindi makatotohanang pagiging perpekto. Imposible ang hilingin sa mga inhinyero na palaging panatilihing buong mental na modelo ang buong malaking modernong codebase sa kanilang isip. Noon ay ipinahayag na ng koponan ni Claude Code na ang kanilang kasalukuyang estratehiya ay “pagsasalikod ng pag-unawa ayon sa pangangailangan”: kapag kailangan baguhin ang isang module, direktang hihingin sa Claude na ipaliwanag ang lohika ng nasabing bahagi sa oras, at hindi ipilit na panatilihin ang buong imahe sa isip.

Tulad ng aking nabanggit kanina, mas madaling iayos ang pagkakaroon ng utang sa pag-unawa na ito kaysa sa karamihan sa mga inhinyero ang isipin. Habang kayang mong muling buuin ang pag-unawa sa lokal na antas kapag kinakailangan, hindi mo kailangang panatilihin ang buong larawan nang patuloy. Ngunit ang pangunahing punto ay: kailangan mong maging malinaw sa iyong sarili kung saan eksaktong mga lugar ka nagkakaroon ng mga blind spot.

Sa mga simpleng bagay na may mababang gastos sa pagkakamali, maaari ninyong ipagkatiwala nang buo ang paggawa ng desisyon. Ngunit kapag nagkakaroon kayo ng isang mahalagang tanong, o kahit na ang isang agent ay hindi kayang ipaliwanag ang paaalaman nito, nagsisimula na kayong magwawala ng buong pagmamay-ari sa sistema.

Hindi ibig sabihin nito na kailangan mong mag-isip nang parang may krisis sa lahat ng sitwasyon. Kahit isang maliit na panahon na ang nakalipas, kailangan kong mag-record ng isang kurso at kailangan kong pumili ng isang hotel mula sa tatlong hotel na may malapit na rating bilang lugar ng pag-record. Wala akong oras na basahin ang bawat isa sa mga review ng mga bisita, kaya isinuko ko ang desisyon sa isang AI. Ang resulta ay napakaganda, at gagawin ko pa rin ito ang susunod na pagkakataon na makakarating sa ganitong sitwasyon.

Ngunit sa mga bagay na may kinalaman sa pag-invest sa mga pangunahing aset, pagpaplano sa karera ng mga anak, o pagdedesisyon kung anong function ang dapat i-develop, ano ang mga aktwal na user na apektado ng mga pagbabago, at kung ang code ay nakakamit na ang mga pamantayan para sa ligtas na paglunsad, hindi ko ibibigay ang karapatan na magdesisyon sa iba. Sa mga marginal na lugar kung saan ang gastos ng pagkakamali ay mababa, maaari mong ipaalam ang pagpapasa; ngunit sa mga pangunahing bahagi kung saan ang iba ang magbabayad ng gastos, kailangan mong manatiling matigas sa lohikal na pag-iisip ng tao.

Noong panahong nasa kaligayahan ang aking isip, karaniwang bumabalik ako sa isang simpleng listahan ng mga pangunahing tanong: Paano ko malalaman kung ang tamang problema ang aking sinusubukan lutasin? Paano ko malalaman kung ang tamang paraan ang ginagamit ko para lutasin ito? Mayroon bang tiyak na obhetibong ebidensya na sumusuporta sa aking konklusyon? Paano ko malalaman kung tapos na ang gawaing ito nang buo? Sa karamihan ng mga pagkakataon, ito ay simpleng pagsasama-sama ng limang pangunahing tanong sa pagsusulat ng balita: Sino, Ano, Saan, Bakit, Kailan, at Paano. Kapag isinusulat ito sa papel, tila ito'y bata at kawawa, ngunit ito ay nagpupukaw sa akin na tingnan ang mga aspeto na karaniwang pinapabayaan.

Sa kasalukuyang panahon, sobrang madali para sa mga tao na i-skips ang lahat ng mga pag-iisip na ito at tumingin sa mga agent para tanungin, “Ano ang iyong opinyon kung ano ang dapat kong gawin?” Kaya, isinagawa ko ang aking sariling updated na checklist para sa panahon ng mga agent:

• Bago magtanong, ba’t mayroon nang aking sariling initial assumption? Bago pagsimulan ng isang agent ang anumang hindi simpleng gawain, pinipilit ko ang sarili kong isulat sa isip (o sa isang sticky note) kung ano ang aking inaasahang direksyon ng sagot. Kahit isang malabo o mahinang hula ay walang problema. Kapag nakakita ka ng bagong impormasyon, may karapatan ka palaging baguhin o balewalain ang iyong paniniwala. Ngunit kapag nabasa mo na ang isang napakaganda at maluwag na ginawa ng AI na sagot, mahirap nang isipin ang anumang ibang posibilidad. Kung walang alam ka sa muna, subukan ang “blind spot questioning method” ni Thariq Shihipar: ilahad ang lahat ng alam mo, at pahintulutan ang model na tulungan kang hanapin ang mga unknown unknowns.

• Ginagamit ko ba ito bilang kasangkapan para makatulong sa aking pag-iisip, o binibigay ko ba ang pag-iisip mismo sa ito? Parehong mode ay pinapayagan, ngunit mahalaga na manatili kang lubos na alerto at malinaw sa iyong kasalukuyang kalagayan.

• Ano ang mga kondisyon na dapat muna ay maging katotohanan para sa isang solusyon na maging ganap na walang epekto? Pagkatapos mong isipin ito nang mabuti, agad mong ipapatupad ang pagsusuri sa totoong kalagayan. Ang pagtataya ng sariling tiwala ng modelo sa kanyang sariling sagot ay may mas maliit na halaga kaysa sa iyong sariling pagpapatupad ng isang totoong pagsubok, kaya magtakda ka ng isang totoong pagsusuri para dito.

• Nagsasalita ba ako sa mga kontrang argumento mula sa ibang pananaw? Kapag nagkaroon na ako ng matibay na posisyon sa isang bukas na tanong, hinihingi ko sa modelo na maging isang mapagkakatiwalaang kaaway na listahan ng pinakamalakas na pagtutol sa aking posisyon. Hindi ito laging para sa pagbaba ng aking desisyon, kundi para pilitin akong harapin ang mga negatibong blind spot na karaniwang iniiwasan ko nang walang kamalayan habang nasa pag-unlad ako.

• Kung kailangan kong ipagtanggol ang resultang ito nang personal, paano ko ito sasabihin? Mag-isara muna ang window ng agent, at subukang ipaliwanag ang plano sa iyong kasamahan gamit ang sarili mong simpleng salita. Kung nakakaramdam ka ng hirap sa pagsasalita, ibig sabihin ay hindi pa talaga mo maintindihan ito—nasa punto ka lang na isang mekanikal na loudspeaker ng AI.

Sa passive reading mode, ang iyong utak ay simpleng lumalampas sa nakatakdang teksto, nakakatanggap nang pasibo sa flow ng impormasyon. Dahil ang mga salitang ibinibigay ng mga intelligent agent ay karaniwang maluwag, maayos ang retorika, at walang kamalian sa gramatika, ang passive reading ay madaling magdulot ng pagkakamali na iyong nauunawaan nang buo ang kahulugan. Tulad ng pagtingin ka sa isang top speaker sa isang teknikal na konperensya na nagpapakita ng isang maluwag na arkitekturang operasyon, at ikaw sa ilalim ay nangingiti at naniniwala na ito ay natural—pero kapag bumalik ka sa hotel at buksan mo ang blanko na editor, natutuklasan mong hindi mo kayang isulat ang unang linya ng code.

Ang aktibong pagbasa ay isang pagmamasid na may mga aksiyong nagmumula sa pagkakaroon ng pagdududa. Hindi lamang ito nag-aalala kung ano ang isinulat sa teksto, kundi pati na rin ay patuloy na tinatanong: Bakit isinulat ito dito? Ano ang mga pangunahing hamon na iniwasan nito? Bakit pinili nito ang solusyong ito kaysa sa iba?

Para sa mga mahabang plano na ginawa ng agent, karaniwang binabasa ko ito gamit ang dalawang napakalaking malinaw na pananaw ng pagmamaliw:

Una sa paghahanap ng mga “kawalang konteksto”: Ano ang mga implicit na aksiyon nito? May mga kahalintulad na kaso ba itong nalilipasan? Saan batay ang pagpili nito nang tahimik kapag may pagkakaubos sa dalawang pangangailangan?

Susunod sa pagbuo ng “mga tanong na kontrabida”: Kung biglang tumaas ang dami ng parehong pag-access ng sampung beses, paano ito mabubulok? Kung tumigil ang isang panlabas na dependensya ng third party ng kalahating oras, ano ang magiging seryosong epekto sa sistema? Mas mabuti na aktibong hawakan ang iskarpel upang subukan ang presyon kaysa maging pasibong magbasa ng puno ng mga sagot.

Ang mga agent ay hindi lamang ginagamit para sumulat ng mahabang sanaysay, kundi maaari ring itrain upang maging malakas na kasama mo sa paggawa ng malalim na kritikal na pagbasa. Ang susi ay hindi lamang hingin ang mga positibong konklusyon mula sa iyo, kundi hingin ang pagpapakita ng mga pagkakaiba at pagkakahati-hati sa likod nito:

Maaari mong gawin ito upang mag-cross-examine ang dalawang parang magkakaibang disenyo ng arkitektura, at tukuyin kung ano ang ipinagkompromiso ng bawat panig; maaari mong gawing mapanlinlang na code reviewer na espesyal na naghihinga ng mga masamang code na kahit nagpapasa sa mga pagsubok, may nakatago pang mga trap sa pagpapanatili sa hinaharap; maaari mo ring gawin ito upang pagkatapos ng mahabang output, random na pumili ng tatlong detalye mula sa gitna at magtanong sa iyo nang pabalik, upang subukan kung talagang naiintindihan mo ang konteksto.

Gawin ang agent bilang batayan ng pag-iisip, hindi bilang palit nito.

Ang pagsusulat ng code at ang pagsusuri ng code ay dalawang magkakaibang kasanayan sa pag-iisip. Sa harap ng malaking halaga ng code na ginawa, madaling mabawasan ang pagsusuri ng tao sa pagkapagod hanggang sa maging “stamp ng kahoy” na pagsusuri na may sariling mata.

Kaya sa pagmamasid sa mga pagbabago sa code (Diff), mangyaring palaging isipin na ang code na ito ay hindi sinulat ng isang makapangyarihang AI, kundi isang baguhan na intern. Mas mahalaga pa, huwag lamang tignan ang mga linya na idinagdag o tinanggal, kundi lalimuhin ang mga ito upang tanungin kung anong malalaking desisyon ang ginawa ng agent para sa iyo nang tahimik: Anong default values ang napili nito? Anong mga kumplikadong lohika ang tinanggal nito nang tahimik mula sa sakop na ito? Kapag may pagkakaugnay sa dalawang product requirement, anong isa sa mga ito ang muling ipinaliwanag nito nang lihim?

Kung ang isang report ay nagpapakita lamang ng maliit na pagbanggit na “lahat ay nasa tamang daan, lahat ng pagsubok ay nakapasa,” hindi mo maiiwasang makita ang anumang panloob na detalye ng anumang mahalagang desisyon. Kaya, humingi nang malinaw ng isang hiwalay na listahan: ipaliwanag kung anong mga subheto at kompromiso ang ginawa nito sa gawain na ito. Pagkatapos, gawin ang isang random self-check: piliin nang random ang dalawa o tatlong kritikal na linya ng code, at tanungin ang sarili mo kung bakit mo ito isinulat. Kung ito ay isang design document, isara ang pahina at subukan mong ilarawan nang buo sa iba ang pangunahing argumento nito gamit lamang ang iyong memorya. Mahilig ako sa isang matigas na patakaran na ipinatutupad ng ilang mga team: hingin na idagdag ng agent ang isang sariling pagsusulit sa dulo ng kanyang report sa pagbabago, at ang patakaran ng team ay “hindi pinapayagan ang pag-merge ng code hangga’t hindi ko masagot nang 100% ang lahat ng tanong sa pagsusulit.”

Siguraduhin mong may sapat na pag-unawa at kumpiyansa ka sa iyong ipinapalabas na produkto, at handa kang lumabas para ipagtanggol ito. Sapagkat sa isang araw sa hinaharap, lalabas ang mga tao na may mga tanong.

Samantala, ang mga agent ay maaari ring gamitin upang matulungan tayong buuin ang mahalagang pagsisikap sa atensyon. Halimbawa, pinapanatili ko ang isang malaking open-source project na tumatanggap ng malaking dami ng Pull Request. Ginagamit ko ang mga agent upang gawin ang unang pagpili: matukoy kung aling mga sumbong ay lumalabag sa mga pamantayan ng komunidad at aling mga ito ay nangangailangan ng aking pansin. Hindi ko ibibigay sa mga agent ang desisyon kung kailangan o hindi kong i-merge ang mga ito, ngunit maaari silang tumulong sa akin na maikli ang aking atensyon upang maikonsentrado ko ang aking tunay na tao na kakayahan sa “kung ang mga pagbabagong ito ay gumagamit ng tamang paraan upang lutasin ang totoong problema.”

Sa huli, kailangang harapin ang psikolohikal na pagkakalawak na dulot ng pagtaas ng produksyon. Ito kong tatawagin bilang “Orchestration Tax”— isang malaking pagkakaiba sa pagitan ng dami ng industriyal na produkto na ginawa ng malalaking bilang ng mga agent, at ang dami ng mga paborito na handa mong isama ang iyong pangalan. Kung ang bilis ng pag-umpisa ng output ay naging mas mabilis kaysa sa iyong pisikal na kakayahan na suriin nang mabuti, ang pagbuo ng isang bagong parallel session ay hindi makakatulong: kailangan mong i-string ang iyong automated verification process, o maging matiyaga at magpabagal.

Kapag ang mga bagay na iyong ipinapakita ay lumampas na sa iyong kakayahan na suportahan at tanggulin ang responsibilidad, hindi na ikaw ay gumagawa ng propesyonal na pagsusuri; ikaw ay nagpapanggap lamang na walang mangyayari.

Sa sistemang kooperatibo ng tao at makina, ang mental model ng tao ay hindi nawala, kundi nagkaron ng paglipat ng diin: ito ay mula sa mahabang intermediate coding phase ay napalitan nang buo sa pinakamuna na pagsasama ng task at sa huling pagsusuri ng output. Ibinabahagi mo ang lahat ng iyong kognitibong enerhiya sa unang paghahati ng task, pagpapadala ng konteksto, at sa huling pagsusuri at pagkakaroon ng isang saradong loop. Ito ang dahilan kung bakit ang kalidad ng prompt ay may desisyon sa final output—laging itinuturing ko ang mahusay na prompt engineering bilang isang mataas na kasanayan sa kritikal na pag-iisip.

Noong nakaraan, kung ihahatid mo sa isang kasamang tao ang isang malabo at ambigyuos na kahilingan, agad mong tatanggapin ang pagtutol, at sa pagtatanong ay sasabihin mo sa sarili mo: “Nakita ko na, hindi ko talaga naisip nang maayos ang bagay na ito.” Gayunpaman, ang mga agent ay karaniwang hindi magpapahinga sa punto na ito. Tahimik nilang isasagawa ang lahat ng nawawalang detalye, at ibabalik ang isang output na tila napakaepektibo at kompletong maayos, kahit na ang pangunahing intensyon ay nananatiling isang kalat. Tawag ko sa phenomenon na ito ay “Intent Debt”: mga lihim na layunin at limitasyon na nakapaloob sa output, ngunit hindi mo talaga pinag-isipan. Sa pagkakaiba sa iba pang utang, walang makakatulong sa iyo para tulungan mong babayaran ang intent debt—ang pangunahing intensyon ay dapat 100% mula sa iyo.

Ang mga prompt na isinusulat mo ay isang salamin na nagpapakita ng depth ng iyong pag-unawa sa problema; kung hindi mo kayang ipahayag ito sa malinaw at tumpak na wika, madalas ibig sabihin nito ay isang kalat na kalat sa iyong isipan.

Bago humingi ng tulong sa computing power mula sa labas, magsulat muna ng isang outline ng pangangailangan sa sarili mong simpleng wika. I-clear ang target na audience, tukuyin ang mga limitasyon na hindi dapat lalabasan, at ibigay ang obhetibong pamantayan para sa pagkumpleto (Definition of Done). Kapag ang ikalawang pagbabago ay hindi pa rin nakakamit ang inaasahan, tumigil agad sa walang-kwentang pagpapabuti at isulat muli nang buo ang iyong input prompt.

Maaari mo ring gamitin ang agent upang i-push ang kalidad ng iyong sariling input. Noong panahon ng pilosopo Andy Clark, may malalim na pagkakaiba siya sa pagpapataw ng gawain nang iisa-isa sa AI at sa pagpapalalim ng bidireksyonal na pakikipagtulungan kasama ang AI. Sa tunay na mode ng pakikipagtulungan, maaari mong masira ang isang positibong siklo kung saan ang iyong mga tumpak na prompt ay nagbuo ng isang napakagandang output, at ang output ay bumabalik upang i-push ang mas malalim na mga prompt, at sa huli ay malalalim ang iyong sariling mental model sa sistema. Kung hindi ka sigurado kung ang lohika ay kompletong maayos, maaari mong hilingin sa agent na mag-interview sa iyo nang pabalik, at tanungin ang mga lugar na hindi pa naiintindihan nito. Kung sa dulo ng isang usapan, ang iyong sariling lohikal na loop ay naging mas mataas, iyon ang tunay na tanda ng tagumpay.

Dagdag pa, kailangang maging masigasig sa pag-iingat laban sa kontekstwal na kontaminasyon. Kapag nagtatrabaho ang maraming agent, madaling mangyari na ang susunod na agent ay magpapatuloy lamang batay sa komprimo at abstrak ng dating agent, at sa pagkakasunod-sunod, ang ikatlong agent ay maaaring hindi kailanman basahin ang orihinal na pangunahing dokumento.

Sambil noon, kailangan mong itayo ang iyong sariling pamantayan sa estetika at kalidad. Marami akong sinubukan ang AI sa iba’t ibang larangan ng kreatibo at inhinyero, at ang karamihan sa mga output ay hindi mai-publish dahil hindi ito nakakamit ang aking sariling pamantayan. Sa panahon ngayon, ang lahat ng output ng model ay maaaring i-package nang napakaganda at may tiyak na kumpiyansa, kaya’t ang “kapaligiran ng pagkakagawa” ay hindi na epektibong tanda ng kalidad.

Ang AI ay maaaring malaki ang pagpapabilis sa proseso ng paggawa ng nilalaman, ngunit kahit saan man ang isang produkto ay nagdudulot sa akin ng pagkakaroon ng pagka-hiyang lagyan ng aking pangalan, hindi ko ito papayagan na ma-publish.

Kapag hindi natutugunan ang isang output, isulat nang malinaw ang eksaktong dahilan ng pagkabigo sa shared configuration file, Git hook, o automated test case, upang siguraduhing hindi na ulitin ang parehong pagkakamali. Ito ang tamang paraan upang makamit ang compound effect ng pagkakaroon ng disiplina at pamantayan, at ang pagpapalista nang malinaw kung anong mga bagay ay hindi nakamit ang minimum threshold ay sariling uri ng napakalaking pagpapalago sa kaalaman.

Kung ikaw ay may matatag na bullish belief sa kinabukasan ng AI, tulad ng maraming mga entusiya sa paligid ko, maaaring naisip mo na agad habang binabasa ang mga nakaraang kabanata: “Sa loob ng isang o dalawang taon, ang kakayahan ng mga modelo na i-correct at maunawaan ang mga bagay ay lalampas na sa akin—bakit pa ako magpapakahirap na panatilihin ang ganitong kasanayan sa kritikal na pagsusuri?”

Sa maraming pagsusuri na batay sa teknikal na indikador, malamang tama ang iyong pagbasa, at ako mismo ay patuloy na nagsusulong na ibigay ang mas maraming awtomatikong pagsusuri sa mga agent. Ngunit bakit patuloy na mahalaga ang kakayahang ito sa hinaharap? Dahil isa lamang ang dahilan: sa wakas, kailangan ng isang tunay na tao na magdala ng buong responsibilidad sa mga real-world na resulta na ipinapasa. Anuman ang dami ng computing power na ginamit, ang tunay na tao ang lalabas sa hukuman o makakatanggap ng mga konsekwensya.

Ang pagdedesisyon kung gaano kalaki ang tiwala na ibibigay sa isang agent sa isang partikular na gawain ay isang kwalitatibong desisyon na nangangailangan ng napakataas na karunungan. Upang manatiling tumpak sa pagpapahalaga, kailangan mong laging personal na suriin ang mga gawain, dahil ang mga kakaibang paraan ng pagkakamali ng model ay patuloy na umuunlad. Sa isang pagtatala sa kanilang mga pinakamataas na inhinyero at siyentipiko, ipinakita ng Anthropic ang makabuluhang panganib ng “paradoks ng pagmamasid” (Paradox of Supervision): ang mga mataas na kasanayan sa inhinyeriya at arkitektura na kinakailangan upang masuri at kontrolin ang Claude ay ang mga kasanayang pinakamadaling mawala at mabawasan ng tao dahil sa sobrang pagkakasalig sa AI.

Ang mga sumusunod na pangunahing tanong ay ang mga pinakamahalaga sa aking pananaw—at kahit gaano pa kalakas ang isang malaking modelo, hindi ito kayang sagutin para sa iyo: Bakit mo gagawin ang produkto na ito? Ano ang tunay na sosyal at komersyal na halaga nito? Sino ang mga tiyak na tao na malalalim na maapektuhan nito? Ano ang mga gastos at kompromiso na handa mong ibigay upang maisakatuparan ito? Lahat ng ito ay dapat sagutin mo mismo. Habang ang mga intelligent agent ay maaaring magpakita ng malaking potensyal sa pagpapaliwanag ng mga tanong na ito, at masaya akong makita ito, ang huling pagsang-ayon ay laging nasa iyong kamay.

Maaari mong ilipat ang mga tiyak na gawain at kahit na malaking bahagi ng mga pagsusuri sa algoritmo, ngunit ang huling pagkakasala at pagkakaroon ng responsibilidad, hindi mo maiiwasan.

Hindi mo kailangang maging mahigpit at mekanikal sa pagpapatupad ng lahat ng mga doktrina; pumili lang ng mga paraan na sumasalungat sa iyong workflow at i-integrate nang natural:

• Isang beses sa loob ng isang linggo na pagsasanay nang walang koneksyon: Alamin ang isang tiyak na oras bawat linggo para mawala ang tulong ng agent, at isulat nang manual ang isang mahalagang code, o gawin nang personal ang isang pangunahing gawain na maaaring magdulot ng malubhang epekto kung mawala ang kasanayan (itinuturing ko ito bilang pagsasayos ng kognisyon, at hindi ito anumang moral na pagsisikap).

• Buwan-buwan na pagsusuri ng kakayahan: Buwan-buwan, gumawa ng listahan at isulat ang mga bagay na hindi na mo ginagawa nang sarili mong pagkakataon dahil sa pagkakasalig sa AI, at suriin nang serio: alin sa mga kakayahang ito ang talagang kayang mong tanggapin na mawala nang permanenteng? Ang tanong na aking itinakda sa isang lumang blog post mula sa nakaraang taon, ay patuloy na may malakas na epekto ngayon: Kung isang araw biglang mawala ang AI, gaano kalaki ang pagkabigo at pagkakalito na mararanasan mo?

• Kapag may hindi maintindihan, kailangang suriin nang personal: Kung makakasalungat ka sa isang konsepto na labas sa iyong kasalukuyang pag-unawa, kailangan mong mag-aral nang sistematiko. Kung habang isinusulat ko ang isang artikulo ay makakasalungat ako sa isang hindi kilalang term, maaari kong maghanap ng isang eksaktong paliwanag mula sa Wikipedia at agad itong ilagay sa teksto, ngunit mas pinipili kong maglagay ng kaunting oras para gawin ang isang malalim na maliit na pag-aaral, maunawaan ang mga dahilan at epekto nito, hanggang sa malinaw kong makita ang kanyang posisyon sa buong larawan ng kaalaman.

• Isauli ang pagmamasid bilang opisyal na gawain: Ang tunay na seryosong pagsusuri sa mga produkto ng machine ay isang napakabigat at intensibong mental na gawain. Ang pagpapanggap na ang gawain na ito ay madali ay ang pangunahing dahilan kung bakit maraming koponan ay nagpapabaya sa pagsusuri at nagdudulot ng malaking kalamidad. Ang pagsusuri ay hindi libreng kape, isauli ito nang maayos sa iyong mga gawain sa araw-araw upang may sapat na enerhiya ka upang maisagawa ito nang totoo.

• Ang mga kasanayan na ipinapahinga ay magiging mabilis na mawawala: Anumang kognitibong kalamnan na iyong pinabayaan nang matagal ay mabilis na mawawala, at ang bilis ng pagkawala nito ay madalas ay mas mabilis kaysa sa iyong inaasahan. Siguraduhing patuloy mong gawin ang mga pangunahing kasanayan na hindi mo ipapasa nang walang pakikibaka.

• Panatilihin ang malinaw na intensyon: ang agent ay maaaring ganap na magpagsusuri sa iyo, mag-interview sa iyo, at ipakita ang mga pahiwatig na nakalalalim, ngunit sa kondisyon na aktibong disenyo at i-configure mo ang mekanismo ng pakikipagtulungan na ito. Kaya, magtatayo kaagad.

• Maging tapat sa totoong posisyon mo sa spectrum: Kung hindi mo kayang ipaliwanag nang maayos sa iba ang pinagmulan ng sagot nang walang tulong ng agent, tanggapin mo na: nagkakaroon ka na ng cognitive surrender.

• Lagyan ng mga inaasahang palatandaan ang bawat tanong: Bago magtanong sa AI, anuman ang resulta, gumawa muna ng sariling hula sa isip.

• Isang green check mark ay nagpapakita lamang ng isang passed test: laging tanungin: Ano ang tiniyak nito? Ano ang itinago nito?

• Tignan muna ang mga obhetibong ebidensya, bago basahin ang mga subhetibong konklusyon: Bago bisitahin ang kanyang magandang buod, basahin nang mabuti ang bawat linya kung anong mga totoong utos ang isinagawa at anong mga pangunahing data ang tinawag.

• Basahin nang may pagiging sensitibo sa desisyon: Unawain kung anong mga maliit na desisyon ang ginawa ng agent para sa iyo nang walang pahintulot sa output na ito.

• Hugasan ang iyong input prompt: Ang kalaliman at istruktura ng pagkakasulat mo sa prompt ay diretso na nagpapakita ng iyong tunay na pagkakaroon ng kontrol sa esensya ng problema.

• Itakda at ipanatili ang tiyak na pamantayan sa pagpapadala: Kung hindi mo kayang i-sign ang isang bagay dahil sa pagkakaroon ng kahihiyan, huwag ito ipahintulot.

Manatili sa sentro ng board sa pamamagitan ng patuloy na pagsasanay sa mga mahahalagang pangunahing kasanayan. Isang simpleng micro-habit na maaari mong subukan agad sa araw-araw: Bago magtanong sa isang agent, isulat sa isang sticky note ang iyong inaasahang direksyon; agad mong isulat ang isang point na hindi sakop ng agent pagkatapos makatanggap ng resulta. Tingnan kung ang simpleng kontrabihang habit na ito ay makakapagpalit ng iyong pag-iisip sa pagmamasid sa output ng AI. Mag-isip nang malaya, magtatanong nang may mas malalim na pag-unawa, at magdala ng buong responsibilidad sa huling resulta.

Larawan: Pagpapanatili ng independiyenteng pag-iisip at sariling loop ng responsibilidad sa workflow ng AI agent