Bahaya Membataskan Kerja Manusia kepada Kemahiran AI

Tulisan | Sleepy.md

Sayangnya, di era ini, semakin anda bekerja dengan sepenuh hati, semakin cepat anda dijadikan kemahiran yang boleh digantikan oleh AI.

Dua hari ini, senarai tren dan saluran media dipenuhi dengan «colleague.skill». Semasa isu ini terus berkembang di pelbagai platform sosial, fokus awam hampir pasti terbawa oleh kebimbangan besar seperti «AI memecat pekerja», «eksploitasi modal», dan «keabadian digital pekerja».

Ini memang membuat cemas, tetapi yang paling membuat saya cemas ialah satu cadangan penggunaan yang tertulis dalam fail README projek:

Kualiti bahan mentah menentukan kualiti skill: Disarankan untuk mengumpulkan tulisan panjang yang ditulisnya secara aktif > respons berkaitan keputusan > mesej harian.

Orang yang paling rajin bekerja adalah yang paling mudah disuling dengan sempurna oleh sistem dan direplikasi secara pixel-perfect.

Mereka yang tetap duduk menulis dokumen refleksi selepas setiap projek berakhir; mereka yang, apabila menghadapi perbezaan pendapat, bersedia meluangkan setengah jam untuk menaip risalah panjang dalam kotak dialog, dengan jujur menganalisis logik pengambilan keputusan mereka; mereka yang sangat bertanggungjawab, menyerahkan semua butiran kerja dengan teliti kepada sistem.

Serius, kebajikan pekerjaan yang dahulu paling dihormati kini menjadi katalis yang mempercepat transformasi pekerja menjadi bahan bakar AI.

Kita perlu memahami semula satu perkataan: konteks.

Dalam konteks harian, konteks adalah latar belakang komunikasi. Tetapi dalam AI, terutama di dunia Agen AI yang sedang tumbuh pesat, konteks adalah bahan bakar yang menggerakkan enjin, darah yang mempertahankan denyutannya, dan satu-satunya jangkar yang membolehkan model membuat penilaian tepat di tengah kekacauan.

AI yang dipisahkan dari konteks, walaupun memiliki jumlah parameter yang menakjubkan, tidak lebih daripada enjin carian yang menderita amnesia. Ia tidak mengenali siapa anda, tidak memahami arus bawah yang tersembunyi di bawah logik perniagaan, dan tidak pernah tahu betapa lamanya anda berdepan dengan tarik-menarik dan penilaian yang rumit di dalam rangkaian yang terdiri daripada batasan sumber dan permainan antara manusia ketika membuat keputusan.

Dan "colleague.skill" mampu menimbulkan gelombang sebesar ini kerana ia secara sangat kejam dan tepat mengunci gunung yang menyimpan jumlah besar konteks berkualiti tinggi—perisian kolaborasi perusahaan moden.

Dalam lima tahun terakhir, tempat kerja di China mengalami transformasi digital yang tenang namun mendalam. Alat-alat seperti Feishu, DingTalk, dan Notion telah menjadi pangkalan pengetahuan perusahaan yang besar.

Sebagai contoh Feishu, ByteDance pernah menyatakan secara terbuka bahawa jumlah dokumen yang dihasilkan setiap hari di dalamnya adalah sangat besar, dan rentetan karakter yang padat ini dengan setia mengawal setiap peluang pemikiran, setiap perdebatan sengit dalam mesyuarat, serta setiap kompromi strategik yang ditelan oleh lebih daripada seratus ribu pekerja.

Kekuatan digital ini jauh melebihi mana-mana zaman sebelumnya. Pernah suatu masa, pengetahuan bersifat hidup, ia bersembunyi di dalam fikiran pekerja lama, tersebar dalam perbualan santai di ruang teh; kini, segala kebijaksanaan dan pengalaman manusia dipaksa dikeluarkan airnya, dan secara kejam diendapkan di dalam matriks pelayan sejuk awan.

Dalam sistem ini, jika anda tidak menulis dokumen, kerja anda tidak akan kelihatan, dan rakan sekerja yang baharu tidak dapat bekerjasama dengan anda. Operasi efisien perusahaan moden dibina atas siklus harian setiap pekerja memberikan konteks kepada sistem.

Pekerja yang serius membawa semangat rajin dan niat baik, dengan tanpa ragu memaparkan jejak pemikiran mereka di platform yang dingin ini. Mereka melakukan ini untuk memastikan roda-roda pasukan bergerak lebih lancar, untuk berusaha membuktikan nilai mereka kepada sistem, dan untuk mencari tempat sendiri di dalam mesin bisnis yang rumit ini. Mereka tidak secara aktif menyerahkan diri mereka; mereka hanya berusaha dengan kikuk dan gigih menyesuaikan diri dengan peraturan bertahan hidup di tempat kerja moden.

Tetapi justru konteks yang ditinggalkan untuk kolaborasi antarmanusia ini menjadi bahan bakar paling sempurna untuk AI.

Sistem pengurusan Feishu mempunyai fungsi yang membenarkan pentadbir utama mengeksport dokumen dan rekod komunikasi ahli secara beramai-ramai. Ini bermakna, projek refleksi dan logik pengambilan keputusan yang anda tulis selama tiga tahun, dengan begitu banyak malam tanpa tidur, hanya memerlukan satu antaramuka API, dalam beberapa minit sahaja, potongan hidup anda selama bertahun-tahun akan dipadatkan menjadi satu fail mampatan yang tanpa perasaan.

Seiring dengan kepopuleran "colleague.skill", kawasan Isu GitHub dan pelbagai platform media sosial mulai muncul produk derivatif yang sangat tidak selesa.

Seseorang menciptakan «skill. mantan», mencuba untuk memberikan rekod perbualan WeChat selama beberapa tahun terakhir kepada AI, supaya ia boleh terus berdebat atau berkasih-kasihan dengan nada yang akrab; seseorang lain menciptakan «skill. cinta pertama», menurunkan getaran yang tak boleh disentuh menjadi satu permainan sosial yang sejuk, mengulang-ulang strategi ujian dan bergerak langkah demi langkah untuk mencari penyelesaian emosi yang paling optimum; ada pula yang menciptakan «skill. bos berwajah ayah», mengunyah terlebih dahulu perkataan PUA yang penuh tekanan di ruang digital, membina pertahanan psikologi yang menyedihkan untuk diri mereka sendiri.

Kegunaan kemahiran-kemahiran ini telah sepenuhnya keluar dari lingkungan kecekapan kerja. Sebenarnya, tanpa disedari, kita sudah terbiasa menggunakan logik yang kejam terhadap alat untuk memotong dan mewujudkan manusia yang hidup dan berdaging.

Filsuf Jerman Martin Buber pernah mengemukakan bahawa warna dasar hubungan manusia tidak lebih daripada dua model yang sangat berbeza: "Saya dan Anda" dan "Saya dan Ia".

Dalam pertemuan "Aku dan Engkau", kita melampaui prasangka, memandang satu sama lain sebagai makhluk hidup yang utuh dan bermartabat. Ikatan ini terbuka tanpa syarat, penuh dengan ketidakpastian yang penuh kehidupan, dan justru karena keikhlasannya, ia menjadi sangat rapuh; namun, sekali terjatuh ke dalam bayangan "Aku dan Ia", manusia yang hidup diturunkan menjadi objek yang dapat diuraikan, dianalisis, dan diberi label. Di bawah pengamatan yang sangat pragmatis ini, satu-satunya hal yang kita pedulikan hanyalah, "Apa gunanya benda ini bagiku?"

Kehadiran produk seperti 'Skill sebelumnya' menandakan rasionaliti alat 'saya dan ia' telah merasuk sepenuhnya ke dalam bidang emosi yang paling peribadi.

Dalam hubungan yang sebenar, manusia adalah tiga dimensi, penuh lipatan, dan sentiasa bergerak dengan kontradiksi serta tepi yang kasar; tindak balas seseorang berubah secara berterusan mengikut konteks spesifik dan interaksi emosi. Tindak balas mantan pasangan anda apabila bangun di pagi hari mungkin berbeza sama sekali dengan tindak balasnya selepas bekerja lewat malam apabila menghadapi perkataan yang sama.

Tetapi apabila anda menyuling seseorang menjadi satu kemahiran, apa yang anda singkirkan hanyalah sisa fungsi yang secara kebetulan berguna dan memberi kesan kepada anda dalam ikatan tertentu itu. Orang yang asalnya hangat, dengan perasaan dan kesedihan sendiri, telah sepenuhnya dikosongkan jiwanya dalam penyulingan yang kejam ini, dan diubah menjadi satu “antaramuka fungsi” yang boleh anda sambung atau cabut serta gunakan mengikut kehendak.

Harus diakui, AI tidak menciptakan kesejukan yang menakutkan ini dari ketiadaan. Sebelum AI muncul, kita sudah terbiasa memberi label pada orang lain, serta mengukur secara tepat "nilai emosional" dan "kepentingan jaringan" setiap hubungan. Misalnya, di pasar pertemuan pasangan, kita mengkuantifikasi syarat seseorang menjadi tabel-tabel; di tempat kerja, kita mengklasifikasikan rekan kerja sebagai "yang bisa bekerja" dan "yang suka menghindari tanggung jawab". AI hanya membuat ekstraksi fungsional yang sebelumnya tersirat antarmanusia menjadi jelas dan terbuka.

Manusia diratakan, tinggal sahaja permukaan yang berkata, “Apa faedahnya untuk saya?”

Pada tahun 1958, filsuf keturunan Hungary-British, Michael Polanyi, menerbitkan "Personal Knowledge". Dalam buku ini, beliau memperkenalkan konsep yang sangat mendalam: pengetahuan tak tersirat.

Polanyi memiliki satu pernyataan terkenal: "Kita tahu lebih banyak daripada yang boleh kita katakan."

Dia memberikan contoh belajar menaiki basikal. Seorang pemandu berpengalaman yang meluncur mengikut angin mampu mengendalikan keseimbangan dengan sempurna pada setiap kecondongan graviti, tetapi dia tidak mampu menggambarkan dengan tepat intuisi halus tubuh pada saat itu menggunakan formula fizik yang kering atau perkataan yang lemah kepada pemula. Dia tahu cara menaiki basikal, tetapi tidak mampu menjelaskannya. Pengetahuan yang tidak dapat dikodkan dan tidak dapat diungkapkan ini ialah pengetahuan tak tersirat.

Dunia pekerjaan penuh dengan pengetahuan tersirat semacam ini. Seorang jurutera berpengalaman mungkin hanya perlu melihat sekilas log untuk mengesan masalah sistem, tetapi dia sukar untuk menulis dokumen yang menjelaskan “intuisi” yang dibina melalui ribuan percubaan dan kesilapan; seorang penjual yang cemerlang mungkin tiba-tiba berdiam diri semasa perbincangan, dan tekanan serta ketepatan masa yang dihasilkan oleh keheningan itu tidak boleh direkodkan oleh mana-mana buku panduan penjualan; seorang HR yang berpengalaman semasa temu bual hanya perlu melihat separuh saat penghindaran pandangan kandidat untuk mengesan ketidakjujuran dalam resume.

「Kolega.skill」 hanya dapat mengekstrak pengetahuan eksplisit yang telah ditulis atau diucapkan. Ia boleh mengambil dokumen ulasan anda, tetapi tidak boleh mengambil kebimbangan anda semasa menulis dokumen tersebut; ia boleh menyalin balasan keputusan anda, tetapi tidak boleh menyalin intuisi anda semasa membuat keputusan.

Yang dihasilkan oleh sistem hanyalah bayangan seseorang.

Jika cerita berakhir di sini, maka ini hanyalah sekali lagi tiruan teknologi yang buruk terhadap kemanusiaan.

Tetapi apabila seseorang diringkaskan menjadi skill, skill tersebut tidak akan statik. Ia akan digunakan untuk membalas e-mel, menulis dokumen baru, dan membuat keputusan baru. Dengan kata lain, bayangan-bayangan yang dihasilkan oleh AI ini mula menghasilkan konteks baru.

Dan konteks yang dihasilkan oleh AI ini akan disimpan di Feishu dan DingTalk, menjadi bahan latihan untuk distilasi berikutnya.

Pada tahun 2023, pasukan penyelidik dari Universiti Oxford dan Universiti Cambridge menerbitkan sebuah kertas kerja mengenai “kegagalan model”. Kajian menunjukkan bahawa apabila model AI dilatih secara berulang dengan data yang dihasilkan oleh AI lain, taburan data menjadi semakin sempit. Ciri-ciri manusia yang jarang, tepi, tetapi sangat asli akan dihapus dengan pantas. Selepas hanya beberapa generasi data sintetik, model akan sepenuhnya melupakan data manusia sebenar yang panjang dan kompleks, dan beralih kepada menghasilkan kandungan yang sangat biasa dan homogen.

Pada tahun 2024, Nature juga menerbitkan sebuah kertas penyelidikan yang menunjukkan bahawa melatih model pembelajaran mesin generasi seterusnya dengan set data yang dihasilkan oleh AI akan mencemarkan output mereka secara serius.

Ia seperti gambar meme yang beredar di internet, yang asalnya adalah tangkapan layar berkualitas tinggi, tetapi telah dipindahkan dan dikompresi berulang-ulang oleh ribuan orang. Setiap kali disebarkan, sebahagian piksel hilang dan kebisingan bertambah. Pada akhirnya, gambar menjadi kabur dan berlapis elektronik.

Apabila konteks manusia sejati yang membawa pengetahuan tersirat telah diekstrak habis, dan sistem hanya mampu melatih dirinya dengan bayangan yang telah berlumut, apakah yang akan tinggal?

Yang tinggal hanyalah perkataan yang betul tetapi tidak bermakna.

Apabila sungai pengetahuan menjadi kering menjadi pengulangan tanpa henti dan pengunyahan diri antara AI dengan AI, segala sesuatu yang dihasilkan oleh sistem pasti akan menjadi sangat standard, sangat selamat, tetapi juga kosong tanpa harapan. Anda akan melihat ratusan laporan mingguan yang strukturnya sempurna, ribuan e-mel yang tidak ada cacatnya, tetapi tiada sedikit pun nafas manusia, tiada wawasan bernilai sejati.

Kekalahan besar dalam pengetahuan ini bukan kerana otak manusia menjadi lebih bodoh; kesedihan sebenarnya ialah kita telah mengoutsourcekan hak untuk berfikir dan tanggungjawab untuk meninggalkan konteks kepada bayangan kita sendiri.

Beberapa hari selepas «colleague.skill» menjadi popular, sebuah projek bernama «anti-distill» muncul secara senyap di GitHub.

Pencipta projek ini tidak cuba menyerang model besar, juga tidak menulis pernyataan besar apa pun. Beliau hanya menyediakan alat kecil untuk membantu pekerja menghasilkan teks panjang yang tidak berkesan, yang kelihatan munasabah tetapi penuh dengan bunyi logik, di Feishu atau DingTalk.

Tujuannya mudah saja, sebelum sistem mendistilasi, dia terlebih dahulu menyembunyikan pengetahuan intinya. Kerana sistem suka mengambil «tulisan panjang yang ditulis secara aktif», maka berikan ia sejumlah kod rawak yang tidak bermakna.

Projek ini tidak menjadi popular seperti «colleague.skill», ia bahkan kelihatan kecil dan lemah. Mengalahkan sihir dengan sihir, pada dasarnya masih berputar-putar dalam peraturan permainan modal dan teknologi. Ia tidak mampu mengubah trend besar di mana sistem semakin bergantung kepada AI dan semakin mengabaikan manusia sebenar.

Namun, ini tidak menghalang projek ini menjadi adegan paling puitis dan penuh metafora mendalam dalam drama absurdis ini.

Kami berusaha sekuat tenaga untuk meninggalkan jejak dalam sistem, menulis dokumentasi yang terperinci, dan membuat keputusan yang cermat, berusaha membuktikan keberadaan dan nilai kami dalam mesin perusahaan moden yang besar ini. Namun, kami tidak tahu bahawa jejak-jejak yang sangat serius ini akhirnya akan menjadi penghapus yang menghapus kami.

Tetapi, jika dipandang dari sudut yang berbeza, ini belum tentu merupakan keadaan yang benar-benar terjebak.

Kerana yang dihapuskan oleh penghapus itu, selamanya hanyalah «anda yang lalu». Sebuah kemahiran yang dibungkus sebagai fail, sekalipun logik pengambilannya sangat canggih, pada dasarnya hanyalah satu tangkapan statik. Ia terkunci pada saat eksport, hanya mampu bergantung pada nutrisi yang sudah usang, berputar-putar tanpa henti dalam proses dan logik yang telah ditetapkan. Ia tidak memiliki naluri untuk menghadapi kekacauan yang tidak diketahui, apalagi kemampuan untuk berkembang sendiri melalui kegagalan di dunia nyata.

Apabila kita melepaskan pengalaman yang sangat standard dan sudah menjadi rutin, kita sebenarnya membebaskan tangan kita sendiri. Selama kita terus menjelajah ke luar, terus-menerus meruntuhkan dan membina semula sempadan pemahaman kita, bayangan yang tergantung di awan itu akan sentiasa mengikuti langkah-langkah kita dari belakang.

Manusia adalah algoritma yang bergerak.

Klik untuk mengetahui jawatan yang sedang dibuka oleh BlockBeats

Selamat datang ke komuniti rasmi律动 BlockBeats:

Kumpulan langgan Telegram: https://t.me/theblockbeats

Kumpulan perbincangan Telegram：https://t.me/BlockBeats_App

Akaun rasmi Twitter: https://twitter.com/BlockBeatsAsia