Bagaimana untuk Menjaga Pemikiran Kritis Semasa Agen AI Mengambil Alih Pekerjaan

Penulis: Addy Osmani (pasukan Anthropic Claude Code, jurutera teknikal terkenal)

Diterjemahkan oleh Deep潮 TechFlow

Pengantar Shenchao: Seiring pelaksanaan menyeluruh alur kerja agen (Agentic Workflows), jurutera perisian dan pasukan produk sedang mengalami perubahan mendalam dalam paradigma kerjasama manusia-mesin. Ruang kognitif yang dahulu memungkinkan pemikiran berkembang antara pertanyaan dan jawapan kini telah diringkaskan menjadi beberapa saat sahaja; seiring model besar menjadi semakin realistik dan tepat, kesalahan eksplisit berkurang drastik, tetapi manusia perlahan-lahan terjerumus ke dalam "penyerahan kognitif" melalui perasaan senang dan patuh, sementara pemahaman sistemik dan kemampuan asas semakin cepat melemah tanpa disedari.

Sebagai mantan ketua kejuruteraan Google Chrome dan anggota utama pasukan Anthropic Claude Code, Addy Osmani menganalisis secara sistematis fenomena pergeseran spektrum dari "pelonggaran kognitif", "penangguhan penilaian" hingga "penyerahan kognitif". Beliau tidak hanya menguraikan secara mendalam mekanisme akumulasi tersirat tanggungjawab pemahaman sistem, tetapi juga mengusulkan strategi membaca aktif dan soalan perlawanan yang praktikal dan pertahanan terhadap alur kerja harian, menjelaskan mengapa manusia masih perlu mengekalkan garis sempadan tanggungjawab dan kemampuan pemikiran kritis, walaupun AI memiliki keberkesanan yang lebih tinggi di masa depan.

Pada suatu masa, pemikiran kritis yang diajarkan di sekolah memerlukan orang untuk menghadapi maklumat baru dengan rasa ingin tahu yang rendah hati dan sikap keraguan yang sewajarnya: mengambil kebaikan dari pelbagai sumber, mendengar semua pandangan untuk memperoleh kejelasan, dan akhirnya membentuk pandangan independen sendiri. Prinsip ini masih relevan hingga kini, tetapi kini, dengan sebahagian besar pekerjaan harian saya diserahkan kepada agen, hampir tiada apa-apa dalam dunia nyata lagi yang memaksa saya untuk menggunakan pemikiran kritis.

Untuk jurutera dan produk yang telah sepenuhnya menerima alur agen, menjalankan beberapa sesi secara serentak dalam kehidupan harian, dan menunggu secara tenang peningkatan berterusan dalam prestasi model, saya ingin menjelaskan terlebih dahulu: saya sendiri adalah penganut setia alat-alat ini. Saya menulis artikel ini bukan untuk menganjurkan agar semua orang mengurangkan penggunaan alur agen.

Matlamat utama saya ialah: di dunia di mana segala perkara boleh dengan mudah dioutsourcing kepada agen, membantu anda tetap mempertahankan pemikiran kritis anda sendiri.

Dalam masa lalu, sebahagian besar pemprosesan kognitif dan penilaian estetik manusia terbentuk dalam ruang kosong di antara soalan dan jawapan. Namun hari ini, skala ruang kosong ini telah dipendekkan kepada beberapa saat sahaja. Semakin dalam anda menggunakan aliran agen pintar, semakin sukar untuk tetap waspada (walaupun kesukaran ini mungkin berbeza daripada yang dijangka oleh ramai): seiring dengan peningkatan berterusan model, peratusan kesilapan yang jelas dan tidak masuk akal telah berkurang secara besar-besaran. Kebanyakan hasil yang dihasilkan ditulis dengan sangat sopan dan secara umum betul, tetapi justru kesopanan yang kelihatan tanpa cela ini membuatkan orang tidak ingin melihatnya sekali lagi.

Walaupun anda menjalankan belasan agen secara serentak, akhirnya hanya mata anda sendiri yang akan menilai hasilnya.

Anda mesti secara aktif memasukkan pemikiran kritis ke dalam proses harian, kerana dalam keadaan lalai, tiada kuasa luaran yang akan mengawalnya untuk anda.

Sebahagian sebab mengapa orang sukar memperbaiki diri sendiri ialah pengalaman alur agen benar-benar menyenangkan. Dalam hari kerja yang sibuk, mendapat jawapan siap yang patut, selesa, dan secara keseluruhan betul dengan sangat pantas memang memberi rasa segar; tetapi inilah juga tempat yang memudahkan orang menjadi terlalu longgar dan menyerah sepenuhnya.

Semasa berbincang dengan rakan sekerja mengenai fenomena ini, saya biasanya menggambarkannya sebagai spektrum berterusan:

Yang berada di puncak spektrum ialah “pemindahan kognitif” (Cognitive Offloading), iaitu menyerahkan tugas-tugas spesifik dan rumit kepada AI, tetapi manusia sentiasa mempertahankan kepemilikan dan tanggungjawab mutlak terhadap hasil akhir. Saya sendiri melakukan ini sepanjang hari, dan anda juga sepatutnya melakukannya.

Di tengah spektrum ialah “Penangguhan Penilaian” (Deferral), di mana hasil yang dikeluarkan oleh alat terus menjadi input baru untuk langkah seterusnya, dan kandungan yang dihasilkan tidak lagi dianggap sebagai hipotesis yang perlu disahkan.

Dan yang terjatuh ke hujung paling bawah spektrum ialah “penyerahan kognitif” (Cognitive Surrender): output AI secara perlahan-lahan berubah menjadi hujah anda sendiri, dan anda bahkan secara naluriah merasa tiada keperluan untuk mengesahkannya.

Terminologi "penyerahan kognitif" dicadangkan oleh Steven Shaw dan Gideon Nave dari Sekolah Perniagaan Wharton. Ia sangat tepat membenarkan apa yang baru-baru ini saya lihat dan dengar: semakin tinggi kepercayaan terhadap alat (atau semakin timbul kemalasan), orang secara tidak sedar akan meluncur perlahan-lahan sepanjang spektrum ini.

Pergerakan ini sering kali sangat halus dan sukar dikesan, kerana setiap langkah berlaku secara berperingkat dan kelihatan munasabah pada masa itu: anda membaca dengan teliti jawapan sebelumnya, jadi pada langkah seterusnya anda hanya membaca sekilas; pada langkah selepas itu, anda hanya melihat ringkasan struktur utama; hingga suatu hari, apabila seseorang menunjuk kepada satu baris kod dan bertanya kepada anda, anda terkejut menyedari bahawa walaupun dengan bantuan agen pintar, anda sama sekali tidak mampu menjelaskan logik asasnya kepada mereka.

Ini adalah contoh penyerahan kognitif. Ia adalah sumber utama "hutang kognitif" yang beransur-ansur terkumpul. Hutang ini biasanya baru terdedah apabila anda cuba memanggil model mental global sistem, tetapi mendapati minda anda kosong.

Ahli Margaret-Anne Storey pernah menulis bahawa ini muncul dalam kerja sama pasukan sebagai penghakis berterusan terhadap kefahaman teori sistem bersama. Saya juga pernah menulis mengenai fenomena yang sepadan pada peringkat kod, iaitu “hutang kefahaman” (Comprehension Debt, sebutan oleh Jeremy Twei). Dalam praktik penulisan kod harian, hutang ini sepenuhnya tidak kelihatan: perpustakaan kod kelihatan bersih dan elegan, dan semua ujian automatik berjaya berwarna hijau. Namun, apabila sistem memerlukan reka bentuk semula peringkat arkaitek, semua orang akan terjebak dalam keadaan malu: tiada seorang pun dalam pasukan yang benar-benar memahami sistem ini. Masalah yang sama berlaku apabila anda hanya melihat sekilas senarai kandungan strategi atau spesifikasi teknikal, lalu menandatangani persetujuan tanpa membaca.

Perlu ditekankan bahawa saya bukan sedang menggalakkan perfeksionisme yang tidak realistik. Mustahil untuk meminta jurutera sentiasa mempertahankan model mental penuh bagi kod base moden yang besar di dalam fikiran mereka. Pasukan Claude Code sebelum ini telah secara terbuka menyatakan bahawa mereka kini mengambil pendekatan “membina semula pemahaman mengikut keperluan”: apabila perlu mengubah suai satu modul, terus meminta Claude untuk menjelaskan logik potongan itu secara langsung, bukannya memaksa mempertahankan gambaran keseluruhan di dalam fikiran.

Seperti yang saya nyatakan sebelum ini, hutang pemahaman tempatan ini sebenarnya lebih mudah dipulihkan daripada yang kebanyakan jurutera bayangkan. Selagi anda mampu membina semula pemahaman tempatan semasa diperlukan, anda tidak perlu terus mempertahankan keseluruhan gambaran besar. Tetapi garis dasarnya: anda harus sedar sepenuhnya di mana tepatnya anda mempunyai kawasan buta.

Dalam perkara kecil yang mempunyai kos percubaan yang sangat rendah, anda boleh dengan tenang menyerahkan sepenuhnya kuasa pengambilan keputusan. Tetapi apabila anda menghadapi masalah penting, atau bahkan agen pintar tidak dapat menjelaskan jawapan asalnya, anda sebenarnya telah menyerahkan kepemilikan sistem sepenuhnya.

Tentu, ini tidak bermaksud bahawa semua situasi mesti dihadapi dengan kecemasan. Baru-baru ini, saya perlu merekam satu kursus dan perlu memilih antara tiga hotel dengan penilaian yang hampir sama sebagai tempat perekaman. Saya memang tidak ada masa untuk membaca secara terperinci ulasan pelanggan yang begitu banyak, jadi saya serahkan sepenuhnya keputusan ini kepada AI. Hasilnya sangat memuaskan, dan saya akan membuat keputusan yang sama semasa menghadapi situasi serupa di masa depan.

Namun, apabila berkaitan dengan pelaburan aset utama, perancangan kerjaya anak-anak, atau ketika dalam pekerjaan anda perlu membuat keputusan mengenai fungsi apa yang perlu dibangunkan, perubahan mana yang akan memberi kesan kepada pengguna sebenar, dan sama ada kod telah memenuhi piawaian keselamatan untuk dilancarkan, saya tidak akan pernah menyerahkan kuasa membuat keputusan kepada orang lain. Di kawasan pinggir di mana kos kesilapan rendah, anda boleh membiarkan orang lain mengambil alih; tetapi di bahagian inti di mana orang lain harus menanggung akibatnya, anda harus mempertahankan rapat-rapat penarikan logik manusia.

Semasa saya pernah bingung dengan pemikiran saya sendiri, saya biasanya kembali kepada senarai soalan asas yang sangat sederhana: Bagaimana saya tahu bahawa masalah yang saya selesaikan adalah betul? Bagaimana saya tahu bahawa jalan penyelesaian yang saya ambil adalah betul? Adakah terdapat bukti objektif yang kukuh yang menyokong kesimpulan saya? Bagaimana saya memastikan bahawa kerja ini telah selesai sepenuhnya? Kebanyakan masa, ini hanyalah prinsip lima W dan H klasik jurnalisme: Siapa, Apa, Di Mana, Mengapa, Bilakah, dan Bagaimana. Apabila ditulis di atas kertas, soalan-soalan ini kelihatan kanak-kanak dan main-main, tetapi ia memaksa anda untuk memeriksa dari sudut-sudut yang biasanya diabaikan.

Pada zaman sekarang, orang terlalu mudah melompati semua pemikiran yang menyakitkan ini dan bertanya kepada agen, “Menurut anda, apa yang harus saya lakukan?” Oleh itu, saya telah memperbaharui senarai refleksi baru saya khusus untuk era agen:

• Sebelum bertanya, adakah saya sudah membentuk hipotesis awal saya sendiri? Sebelum memulakan agen untuk menangani sebarang tugas yang bukan sepele, saya memaksa diri untuk menulis (di atas kertas atau nota) apa yang saya anggap sebagai arah jawapan yang mungkin. Walaupun ini hanyalah tekaan kasar yang buruk, ia tidak menjadi masalah. Setelah melihat maklumat baru, anda selalu berhak untuk menolak dan mengubah pendapat anda. Tetapi sekali anda membaca jawapan yang dihasilkan dengan gaya penulisan yang sangat licin dan elegan, anda akan sukar membayangkan kemungkinan lain. Jika anda tiada idea apa-apa, cuba gunakan “kaedah soalan titik buta” yang dikenalkan oleh Thariq Shihipar: nyatakan semua fakta yang anda ketahui, dan biarkan model membantu anda mencari perkara-perkara yang tidak diketahui.

• Saya sedang menggunakannya untuk membantu saya berfikir, atau sedang menghantar proses berfikir itu sendiri kepadanya? Kedua mod ini sebenarnya dibenarkan, tetapi kuncinya ialah anda mesti kekal sepenuhnya sedar dan jelas mengetahui keadaan yang sedang anda alami pada masa ini.

• Apa syarat-syarat yang perlu dipenuhi supaya skema ini benar-benar gagal? Setelah anda fikirkan dengan jelas, segera lakukan ujian secara langsung. Penilaian keyakinan model terhadap jawapannya sendiri mempunyai nilai rujukan yang jauh lebih rendah berbanding ujian sebenar yang anda jalankan sendiri, jadi berikan ia satu ujian sebenar.

• Adakah saya mendengar hujah bertentangan dari perspektif yang berlawanan? Apabila saya membentuk sikap teguh mengenai satu soalan terbuka, saya meminta model bertindak sebagai pembantah yang kritis, secara khusus menyenaraikan hujah pembantahan terkuat terhadap sikap saya. Ini tidak semestinya bertujuan untuk membatalkan keputusan saya, tetapi untuk memaksa saya menghadapi kelemahan dan buta yang biasanya diabaikan secara tidak sedar apabila segala-galanya berjalan lancar.

• Jika saya perlu membela keputusan ini sendiri, bagaimana saya harus menjelaskannya? Sementara itu, tutup jendela agen, dan cuba terangkan cadangan ini kepada rakan sekerja dengan bahasa yang paling mudah dan jelas menurut anda sendiri. Jika anda mendapati anda sukar menjelaskannya, itu bermakna anda belum benar-benar memahaminya—anda hanya bertindak sebagai pengulang mekanikal AI.

Dalam mod baca pasif, otak anda hanya meluncur secara mekanik sepanjang teks yang telah ditetapkan, menerima aliran maklumat secara pasif. Oleh kerana teks yang dikeluarkan oleh agen biasanya mengalir lancar, menggunakan retorik yang rapi, dan tatabahasa yang sempurna, bacaan pasif dalam persekitaran ini sangat mudah menyebabkan anda salah faham bahawa anda telah benar-benar memahami intinya. Ini seakan-akan anda berada di konvensyen teknologi, memerhatikan jurucakap terkemuka menunjukkan operasi arsitektur yang lancar, sambil mengangguk setuju di barisan penonton, tetapi apabila anda kembali ke hotel dan membuka editor kosong, anda mendapati bahawa anda tidak mampu menulis baris kod pertama.

Membaca secara aktif adalah tindakan memeriksa dengan anggapan kontraktif. Ia tidak hanya memperhatikan apa yang ditulis dalam teks, tetapi juga secara ketat mempertanyakan: mengapa ia ditulis di sini? Apa isu penting yang dihindarinya? Mengapa ia memilih penyelesaian ini dan bukan yang lain?

Untuk rancangan panjang yang dihasilkan oleh agen, saya biasanya membacanya dengan dua perspektif kritis yang sangat jelas:

Pertama-tama, cari “konteks yang hilang”: apa anggapan dasar yang diandaikannya? Adakah ia melewatkan kes khas tertentu? Apabila dua keperluan bertembung, prinsip apakah yang digunakannya untuk membuat keputusan secara halus atas namaku?

Kedua, inisiatif mengajukan "soalan kontraktif": Jika jumlah akses serentak meningkat sepuluh kali ganda secara tiba-tiba, bagaimanakah reka bentuk ini akan runtuh? Jika perkhidmatan bergantung luaran pihak ketiga gagal selama setengah jam, bencana rantai apakah yang akan berlaku pada sistem? Lebih baik mengambil pisau pembedah secara aktif untuk menguji tekanan ke atasnya, daripada secara pasif membaca jawapan-jawapan yang sudah tersedia.

Agen tidak hanya boleh digunakan untuk menulis esei panjang, ia juga boleh dilatih untuk menjadi rakan kuat yang membantu anda melakukan pembacaan kritis mendalam. Kuncinya ialah, anda tidak boleh hanya meminta ia memberikan kesimpulan yang memuaskan semua pihak, tetapi harus meminta ia mengungkapkan perbezaan dan jurang di sebaliknya:

Anda boleh memintanya untuk melakukan silang silit antara dua reka bentuk arsitektur yang kelihatan bertentangan, dan mengenal pasti kompromi yang dibuat oleh masing-masing pihak; anda boleh memintanya berperan sebagai pemeriksa kod yang kejam, yang secara khusus mengesan kod buruk yang walaupun lulus ujian, tetapi menyembunyikan perangkap penjagaan di masa depan; anda bahkan boleh memintanya selepas menghasilkan output teks panjang, secara rawak mengambil tiga butiran dari tengahnya dan bertanya semula kepada anda secara songsang, untuk menguji sama ada anda benar-benar memahami konteksnya.

Gunakan agen sebagai batu asah pemikiran, bukan pengganti pemikiran.

Menulis kod dan mengulas kod adalah dua kemahiran berfikir yang sama sekali berbeza. Di hadapan aliran kod yang dihasilkan dalam jumlah besar, pengulasan manusia mudah menjadi lesu dan berubah menjadi “stempel getah” yang menandatangani tanpa memeriksa.

Oleh itu, semasa mengkaji perubahan kod (Diff), pastikan anda berpura-pura bahawa kod ini sama sekali bukan ditulis oleh AI yang sangat mahir, tetapi diserahkan oleh seorang pelajar latihan yang baru masuk. Lebih penting lagi, jangan hanya memfokuskan pada baris kod yang ditambah atau dihapus, tetapi tembusi kod permukaan untuk mempertanyakan keputusan kecil yang penting yang telah diambil oleh agen secara senyap untuk anda: nilai laluan apakah yang dipilihnya? Logik kompleks apakah yang telah dihapuskan daripada lingkungan ini secara senyap? Apabila dua keperluan produk bertembung, apakah pernyataan yang telah ditafsir semula secara rahsia?

Jika sebuah laporan hanya menyatakan secara ringkas bahawa “semuanya berjalan lancar, semua ujian lulus”, anda akan selamanya tidak pernah melihat isi di sebalik keputusan penting. Oleh itu, mintalah secara jelas agar ia menyenaraikan secara terpisah senarai: nyatakan andaian subjektif dan keputusan kompromi yang dibuat semasa tugas ini. Kemudian, lakukan pemeriksaan rawak terhadap diri sendiri: pilih secara rawak dua atau tiga baris kod penting, dan tanya diri anda mengapa anda menulisnya begitu? Jika ini adalah dokumen reka bentuk, tutup halaman tersebut dan cuba nyatakan semula argumen utamanya sepenuhnya berdasarkan ingatan anda. Saya sangat menyukai satu peraturan ketat yang diterapkan oleh beberapa pasukan: meminta agen untuk melampirkan satu set soalan ujian diri di akhir laporan perubahan, dengan peraturan ketat pasukan ialah “hanya apabila saya menjawab semua soalan ujian dengan 100% betul, kod baru akan dibenarkan digabungkan”.

Pastikan anda memahami dan yakin sepenuhnya terhadap produk yang anda lancarkan, dan bersedia untuk membelainya kapan sahaja. Kerana pada suatu hari nanti, pasti ada orang yang datang dengan soalan.

Sambil itu, agen juga boleh digunakan untuk membina pertahanan perhatian yang berharga. Sebagai contoh, saya menguruskan projek sumber terbuka besar yang menerima jumlah Pull Request yang besar. Saya akan meminta agen membantu menyaring awal: mengenal pasti penghantaran yang melanggar garis panduan sumbangan komuniti, serta yang memerlukan perhatian dan intervensi saya secara khusus. Saya tidak akan membenarkan agen membuat keputusan langsung mengenai penggabungan atau tidak, tetapi mereka boleh membantu saya mengecilkan corong perhatian dengan tepat, membolehkan saya menumpukan lebar kognitif manusia saya sepenuhnya kepada “apakah perubahan ini sedang menyelesaikan masalah yang sebenar dengan cara yang betul”.

Akhirnya, kita mesti menghadapi pembengkakan psikologis yang disebabkan oleh ledakan produksi. Saya menyebutnya sebagai "Cukai Orkestrasi" (Orchestration Tax), yang pada dasarnya merupakan jurang besar antara volume produk industri yang dihasilkan secara masif oleh agen, dan volume produk unggulan yang benar-benar ingin Anda beri nama sendiri dengan hati nurani bersih. Jika kecepatan akumulasi output telah jauh melampaui batas fisiologis Anda dalam memeriksa secara teliti, maka membuka sesi paralel baru sama sekali tidak membantu: Anda harus memperketat proses verifikasi otomatis, atau dengan tegas memperlambat kecepatan.

Apabila apa yang anda hasilkan telah melampaui lingkung tanggungjawab anda untuk menyokong, anda tidak lagi menjalani pemeriksaan profesional, anda hanya berdoa secara harapan agar tiada perkara buruk berlaku.

Dalam sistem kolaborasi manusia-mesin, model mental manusia tidak hilang, tetapi fokusnya berpindah: ia bergerak secara keseluruhan dari tahap pengkodean tengah yang panjang ke ujung depan dalam pemasukan tugas dan ujung belakang dalam penerimaan hasil. Anda mendedikasikan seluruh tenaga kognitif anda kepada pemecahan tugas awal, pemberian konteks, serta penutupan audit ketat di akhir. Inilah sebabnya mengapa kualiti petunjuk (Prompting) mempunyai pengaruh menentukan terhadap hasil akhir; saya sentiasa memandang kejuruteraan petunjuk yang cemerlang sebagai kemahiran inti berfikir kritis tahap tinggi.

Dalam masa lalu, jika anda memberikan keperluan yang kabur kepada rakan sekerja manusia, mereka pasti akan segera menolaknya, dan anda akan tersedar semasa mempertanyakan semula: “Ternyata saya tidak benar-benar memikirkan perkara ini dengan jelas.” Namun, agen pintar sering kali tidak menghentikan anda pada masa ini. Ia akan secara diam-diam mengisi semua butiran yang anda tinggalkan, lalu mengembalikan hasil yang kelihatan sangat efisien, rapi, dan lengkap, walaupun niat asalnya masih tetap kabur. Saya menyebut fenomena ini sebagai “Utang Niat” (Intent Debt): sasaran dan batasan tersirat yang secara halus disisipkan dalam hasil akhir, tetapi bahkan anda sendiri tidak pernah benar-benar mengkaji dengan mendalam. Berbeza dengan utang lain, tiada siapa pun yang boleh membayar utang niat untuk anda; niat asal mesti datang 100% daripada anda sendiri.

Prompt yang anda tulis adalah cerminan mendalam tentang sejauh mana anda memahami masalah tersebut; jika anda tidak mampu menyatakannya dengan bahasa yang jelas dan tepat, biasanya bermakna ia sendiri merupakan kekacauan di dalam fikiran anda.

Sebelum mencari bantuan daya pengiraan dari luar, tulis terlebih dahulu rangka keperluan tugas dengan bahasa yang mudah dan jelas milik anda sendiri. Nyatakan dengan jelas kumpulan sasaran, tentukan batasan mutlak yang tidak boleh dilanggar, dan berikan standard penerimaan objektif untuk penyelesaian penuh (Definition of Done). Apabila suntingan kedua masih gagal mencapai jangkaan, berhenti segera dari penyesuaian halus yang buta, dan tulis semula petunjuk input anda sepenuhnya.

Anda juga boleh menggunakan agen untuk memaksa peningkatan kualiti input anda. Filsuf Andy Clark pernah membuat perbezaan mendalam antara “mentadbir tugas secara searah kepada AI” dan “berkolaborasi secara mendalam dan dua arah dengan AI”. Dalam model kolaborasi sejati, anda akan memasuki roda positif yang saling memberi kuasa: petunjuk tepat anda menghasilkan output yang cemerlang, dan output itu pada gilirannya memaksa anda menghasilkan petunjuk yang lebih mendalam, akhirnya memperdalam model mental anda terhadap sistem tersebut. Jika anda tidak pasti sama ada logik anda lengkap, minta agen untuk menghala temu bual balik kepada anda, dan tanya soalan lanjutan mengenai ruang buta yang tidak difahaminya. Jika pada akhir sesi percakapan, lingkaran logik dalam fikiran anda telah meningkat, itulah tanda kejayaan sebenar.

Selain itu, perlu sangat berhati-hati terhadap pencemaran konteks. Apabila beberapa agen bekerja sama, sangat mudah berlaku kelemahan di mana agen seterusnya hanya berterusan berdasarkan ringkasan terkompresi daripada agen sebelumnya, sehingga agen ketiga mungkin tidak pernah membaca dokumen asli sepanjang masa.

Sambil itu, anda perlu membina estetika dan garis kualiti sendiri. Saya telah menguji AI secara berulang-ulang dalam pelbagai bidang kreatif dan kejuruteraan, dan sebahagian besar hasilnya tidak pernah dipublikasikan kerana ia tidak mencapai piawaian peribadi saya. Di era sekarang ini, semua hasil model boleh dipakai dengan tata letak yang sangat halus dan penuh keyakinan, oleh itu “kelicinan permukaan” sudah tidak lagi menjadi isyarat yang berkesan untuk mengukur kualiti.

AI mungkin sangat meningkatkan kelajuan talian penghasilan kandungan, tetapi selagi sesuatu output membuat saya malu untuk menandatangani nama saya sendiri, saya tidak akan membenarkannya dipublikasikan.

Apabila suatu output gagal mencapai piawaian, tetapkan sebab kegagalan yang spesifik secara jelas dan nyata dalam fail konfigurasi bersama, hook pemeriksaan Git, atau kes ujian automatik, untuk memastikan ralat yang sama tidak akan berulang. Ini adalah jalan yang betul untuk mencapai pertumbuhan berterusan dalam rasa dan piawaian, dan merekodkan dengan sedar perkara-perkara yang tidak mencapai ambang adalah latihan kognitif yang sangat berharga.

Jika anda sependapat dengan banyak praktisi giat di sekeliling saya yang memiliki keyakinan teguh terhadap masa depan AI, anda mungkin sudah memikirkan ini sejak membaca beberapa bab pertama: "Dalam satu atau dua tahun lagi, kemampuan model untuk mengoreksi dan memberikan wawasan pasti akan mengalahkan saya sepenuhnya—lalu mengapa saya perlu bersusah payah mempertahankan kemahiran kritis ini?"

Dalam banyak ujian indikator teknikal semata, ramalan anda kemungkinan besar sepenuhnya betul, dan saya sendiri terus mendesak agar lebih banyak kuasa pengesanan automatik diserahkan kepada agen. Tetapi mengapa kemampuan ini tetap sangat penting di masa depan? Hanya ada satu sebab: pada akhirnya, pasti ada seorang manusia nyata yang bertanggung jawab penuh atas hasil nyata yang dilancarkan. Tidak kira berapa banyak kuasa pengiraan yang digunakan, hanya manusia nyata yang akan berdiri di pengadilan atau menanggung akibatnya.

Menentukan sejauh mana kepercayaan yang harus diberikan kepada agen dalam tugas tertentu merupakan keputusan kualitatif yang memerlukan kebijaksanaan tinggi. Untuk mempertahankan ketepatan penilaian yang konsisten, anda harus terus-menerus mengkaji hasil kerja secara langsung, kerana pola kesilapan model sentiasa berubah secara dinamik. Anthropic, dalam kajian panjang terhadap jurutera dan penyelidik terkemulanya, dengan jelas menunjukkan perangkap mematikan “paradoks pengawasan”: kemahiran kejuruteraan dan reka bentuk tingkat tinggi yang diperlukan untuk mengawasi dan mengendalikan Claude adalah kemahiran inti yang paling mudah merosot dengan cepat apabila manusia terlalu bergantung kepada AI.

Pertanyaan-pertanyaan mendasar ini adalah yang paling saya hargai, dan model besar sehebat apa pun tidak akan pernah dapat menjawabnya untuk anda: Apa sebenarnya alasan anda menciptakan produk ini? Apa nilai sosial dan komersial yang dimilikinya? Siapa sajakah individu-individu tertentu yang akan terpengaruh secara mendalam olehnya? Untuk mewujudkannya, berapa besar pengorbanan dan kompromi yang anda bersedia berikan? Semua ini harus anda jawab sendiri. Agen pintar boleh bersinar dalam proses menganalisis pertanyaan-pertanyaan ini, dan saya menyambut baik hal itu, tetapi cap keputusan akhir tetap berada di tangan anda sendiri.

Anda boleh memindahkan seluruh proses kerja dan bahkan banyak tahap audit kepada algoritma, tetapi tanggungjawab dan rasa tanggungjawab akhirnya tidak pernah boleh dipindahkan.

Anda tidak perlu melaksanakan semua ajaran secara kaku dan mekanikal; cukup pilih cara yang sesuai dengan alur kerja anda untuk menyatu secara semula jadi:

• Latihan sengaja tanpa sambungan mingguan: Luangkan masa tetap setiap minggu untuk benar-benar menjauhkan diri daripada bantuan agen, dan tulis secara manual sebahagian kod penting, atau selesaikan sendiri satu tugas penting yang akan membawa kesan serius jika anda menjadi kurang mahir (saya menyebutnya latihan penyesuaian kognitif, ini bukanlah bentuk tekanan moral).

• Peninjauan kemampuan bulanan: Setiap bulan, buat senarai secara berkala, catat perkara-perkara yang anda berhenti lakukan sendiri kerana bergantung kepada AI, dan tinjau dengan serius: mana-mana kemampuan yang benar-benar boleh anda terima untuk dilupakan selamanya? Pertanyaan yang saya ajukan dalam blog lama saya bertahun-tahun yang lalu masih relevan hingga hari ini: Jika suatu hari AI tiba-tiba hilang sepenuhnya, sejauh mana anda akan mengalami kegagalan dan kebingungan?

• Jika menghadapi perkara yang tidak difahami, teliti sendiri secara mendalam: Jika bertemu konsep yang melampaui kefahaman semasa, anda mesti belajar secara sistematik sendiri. Jika saya menulis artikel dan menemui istilah asing yang belum pernah saya pelajari, saya boleh saja mencari penjelasan Wikipedia yang sudah ada dan memasukkannya ke dalam teks, tetapi saya lebih suka meluangkan sedikit masa untuk melakukan penyelidikan mikro mendalam, memahami sebab-akibatnya, sehingga benar-benar memahami kedudukannya dalam keseluruhan panorama pengetahuan.

• Jadikan pemeriksaan mesin sebagai tugas rasmi dalam jadual kerja: Pemeriksaan yang teliti terhadap output mesin itu sendiri merupakan kerja intelektual yang sangat berat dan intensif. Menganggap tugas ini mudah adalah punca utama mengapa banyak pasukan akhirnya meninggalkan pemeriksaan sepenuhnya dan menimbulkan bencana besar. Pemeriksaan bukanlah makanan percuma—masukkan ia dengan sopan ke dalam jadual harian anda, supaya anda benar-benar mempunyai tenaga untuk melaksanakannya.

• Kemahiran yang tidak dilatih akan cepat memudar: sebarang otak kognitif yang anda tinggalkan dalam jangka masa panjang akan menyusut dengan lebih cepat, dan kadar penurunannya seringkali jauh melebihi anggaran intuisi anda. Pastikan anda terus melatih secara langsung kemahiran inti yang tidak pernah anda rela serahkan.

• Pertahankan niat yang jelas: Agen sepenuhnya boleh menguji balik anda, mengwawancarai anda, dan menunjukkan hujah asasnya, tetapi dengan syarat anda perlu secara aktif merekabentuk dan mengkonfigurasi mekanisme kerjasama ini. Oleh itu, sila bina ia segera.

• Bersikap jujur terhadap kedudukan sebenar anda dalam spektrum: jika anda bahkan tidak mampu menjelaskan kepada orang lain asal-usul jawapan tanpa bantuan agen pintar, akui bahawa anda telah mengalami penyerahan kognitif.

• Sentiasa bertanya dengan andaian awal: Sebelum mengajukan soalan kepada AI, buat tekaan anda sendiri, sama ada baik atau buruk.

• Tanda centang hijau hanya menunjukkan satu ujian lulus: sentiasa tanya: apa yang sebenarnya diperiksa? Apa yang dilewati secara halus?

• Lihat hujah objektif terlebih dahulu, baru baca kesimpulan subjektif: Sebelum membaca ringkasan indah yang diberikannya, baca setiap baris dengan teliti untuk memahami perintah sebenar yang dilaksanakan dan data asas yang dipanggil.

• Baca dengan sensitiviti terhadap keputusan: fahami keputusan kecil apa yang telah diambil oleh agen atas nama anda dalam output ini.

• Haluskan petua masukan anda: Kedalaman dan struktur anda dalam menulis petua secara langsung mencerminkan penguasaan sebenar anda terhadap inti masalah.

• Tetapkan garis batas penghantaran mutlak dan pertahankannya hingga akhir: Jika sesuatu itu bahkan tidak membuat anda malu untuk menandatangani nama anda, maka jangan izinkan ia dilepaskan.

Terus latih secara langsung kemahiran inti yang sangat penting agar anda sentiasa berada di pusat papan catur. Satu kebiasaan mikro yang sangat ringkas yang boleh anda cuba segera dalam kehidupan harian: sebelum bertanya kepada agen, tulis di catatan kecil kemungkinan arah yang anda ramalkan; selepas agen menyelesaikan tugas, tulis segera satu titik buta yang tidak diliputinya. Lihat sama ada kebiasaan adversarial yang kecil ini boleh mengubah secara radikal kedalaman pemikiran anda semasa menilai hasil AI. Berfikir secara bebas, ajukan soalan berkualiti tinggi yang lebih tajam, dan tanggung jawab sepenuhnya atas hasil akhir.

Rajah: Mengekalkan pemikiran bebas dan kitaran tanggungjawab dalam alur agen AI