Anthropic Melancarkan Institut Anthropic untuk Mengkaji Kesan AI terhadap Masyarakat dan Ekonomi

Semalam, AI baru Anthropic (seterusnya dirujuk sebagai A-Social) tidak melancarkan model Claude baru, tetapi memperkenalkan sesuatu yang kelihatan sangat 'membosankan': The Anthropic Institute (Institut Anthropic, disingkat TAI).

Berbanding dengan Harness Engineering yang popular pada 2026, masalah yang ingin diselesaikan oleh TAI lebih besar lagi. Menurut agenda penyelidikan yang diumumkan oleh Anthropic (anthropic-institute-agenda), TAI memberi tumpuan kepada empat arah: penyebaran ekonomi, ancaman dan ketahanan, sistem AI dalam aplikasi praktikal, serta penyelidikan yang digerakkan oleh AI. TAI juga telah mengeluarkan seruan global untuk menarik penyelidik bekerja sama dalam menyelesaikan masalah-masalah ini.

(Sumber gambar: X@Anthropic rasmi)

Dengan kata lain, Syarikat A (singkatan bagi Anthropic) membentuk satu organisasi dalaman yang secara utama menyelidiki bagaimana manusia berinteraksi dengan AI:

• Bagaimana AI akan mempengaruhi pekerjaan dan ekonomi?
• Apa risiko keselamatan baharu yang akan dibawa?
• Apakah tingkah laku dan penilaian manusia akan berubah setelah menggunakan AI secara sebenar?
• Apabila AI mulai membantu dalam pembangunan AI yang lebih kuat, bagaimana proses akselerasi ini harus dipahami dan dikawal?

Mungkin banyak pembaca akan menganggap ini hanyalah tindakan biasa dari sebuah perusahaan AI, tetapi Lei Technology percaya bahawa ini mungkin merupakan tindakan paling penting yang dilakukan A Society baru-baru ini. Kesan positif TAI terhadap industri AI dan umat manusia sama pentingnya dengan nilai kepercayaan "Jangan menjadi jahat" yang diperkenalkan oleh Google kepada industri internet. Oleh itu, Lei Technology AGI menyatakan bahawa ini adalah "pelancaran" yang setara dengan peningkatan model besar.

Arah penyelidikan utama TAI ialah Economic Diffusion.

Mengulas tiga revolusi industri pertama dalam sejarah manusia, sama ada mesin pemintal Jenny, enjin stim yang berderu, atau listrik dan garis pengeluaran kemudian, semuanya menggantikan tenaga fizikal yang sangat murah dan berulang. Namun, revolusi industri keempat yang digerakkan oleh AI berbeza sepenuhnya, kerana ia terus memasuki kawasan kerja intelektual yang paling menjadi kebanggaan manusia.

Namun, TAI menunjukkan kontradiksi utama: alat telah ditingkatkan, tetapi keadaan pekerja justru menjadi lebih buruk.

Dalam kajian teks, TAI menyatakan bahawa jika tiga orang di masa depan dapat menyelesaikan pekerjaan yang sebelumnya dilakukan oleh 300 orang dengan menggunakan model besar, apakah syarikat itu akan berubah menjadi apa?

Pereka boleh menggunakan AI untuk menyelesaikan lapisan dan sumber yang paling rumit dengan satu klik, sementara pengatur cara boleh menggunakan AI untuk Vibe Coding... Andaikan AI meningkatkan kecekapan kerja sebanyak 75%, tetapi ini tidak akan mengurangkan sistem kerja manusia dari 8 jam (atau bahkan 996) kepada hanya 2 jam; sebaliknya, manusia mungkin perlu melakukan lima kali lebih banyak kerja.

TAI memperjuangkan logik baharu "dengan AI, beban kerja anda akan meningkat beberapa kali ganda". Untuk mengukur situasi ini, TAI memperkenalkan istilah baharu, The Anthropic Economic Index (Indeks Ekonomi Anthropic). A Society menyatakan bahawa mereka tidak akan hanya menerbitkan kertas akademik yang tidak diperhatikan orang, tetapi berniat untuk mengeluarkan data sebenar ini dan memberitahu manusia dengan jelas: AI sebenarnya menggantikan jawatan manusia di mana sahaja dalam industri-industri tertentu? Akankah para pemula baru-baru ini dikeluarkan sejak mereka memulakan kerjaya?

(Sumber gambar: Dihasilkan oleh AI)

Selain itu, TAI juga membawa perhitungan ini ke dunia nyata. Kita semua tahu bahawa model besar adalah “mesin pemakan emas” yang tidak pernah kenyang; setiap kali kita menggunakan AI untuk menghasilkan teks, gambar, video, atau bahkan sekadar pertanyaan ringan, kita akan menghabiskan banyak token. Token pada dasarnya adalah kekuatan pengiraan, kekuatan pengiraan pada dasarnya adalah cip, penyimpanan, dan tenaga listrik, dan jika kita menyelidik lebih dalam lagi, ia termasuk emisi karbon, modal, dan sebagainya. Sumber daya sentiasa terhad; apabila masyarakat mengalihkan sumber daya dalam jumlah besar kepada AI, industri lain pasti akan terkesan.

Pada tahun 2026, pengalaman paling ketara yang dirasai oleh semua orang ialah: kekurangan memori dan penyimpanan akibat AI secara langsung menyebabkan kenaikan harga secara meluas dalam elektronik pengguna, bahkan pengilang telefon bimbit terpaksa mengurangkan keinginan untuk melancarkan model baharu. Namun, pada masa yang sama, semua pengilang telefon bimbit berharap untuk menggunakan AI untuk membentuk semula logik produk dan memperpanjang siklus hayat produk telefon bimbit, sementara telefon bimbit AI asli OpenAI juga telah dimasukkan ke dalam jadual. Ketika setiap orang mendapat manfaat daripada AI, lebih banyak industri dipengaruhi secara mendalam oleh AI—baik yang baik mahupun yang buruk.

Sementara itu, TAI menggunakan "indeks ekonomi" untuk mengukur kesan AI terhadap ekonomi daripada persepsi abstrak kepada model data: hanya apabila masalah dipahami dengan jelas, ia mungkin dapat diselesaikan.

Jika kehilangan pekerjaan ibarat pisau tumpul yang memotong daging, maka perubahan pemikiran otak manusia akibat AI adalah cedera langsung.

Yang pertama kali terkena kesan pasti ialah internet. Anda tidak akan susah melihat bahawa internet masa kini sedang berubah menjadi "gunung kotoran". Dahulu, mencari panduan perjalanan memudahkan anda mendapati banyak posting yang memberi tahu tentang kesilapan dan peringatan, tetapi kini semuanya adalah kandungan yang kelihatan cantik dan tersusun rapi tetapi sepenuhnya dibuat-buat oleh AI.

Yang lebih berbahaya ialah, AI telah menurunkan ambang masuk ke industri gelap kepada sifar: menggunakan AI untuk mengganti wajah dan menyebarkan fitnah seksual, meniru suara keluarga untuk penipuan telekomunikasi, penipu hanya perlu membakar beberapa Token untuk menghancurkan kehidupan orang biasa.

TAI juga memperhatikan krisis yang lebih dalam: AI secara perlahan membuat manusia menjadi semakin "bodoh".

Sebelum ini, pengguna China pernah melihat jamur liar yang tidak dikenal di luar rumah, mengambil gambar dan bertanya kepada AI, “Apakah ini boleh dimakan?” AI menjawab dengan serius bahawa jamur beracun itu adalah “jamur lezat yang boleh dimakan”; ada pula kanak-kanak yang memegang perangkap tikus dan bertanya kepada AI apa ia, AI menganalisis dengan serius bahawa ia adalah “mainan kereta kartin kecil yang rosak, berbentuk segi empat sama dengan struktur logam”, akibatnya kanak-kanak itu penasaran dan menyentuhnya, jari mereka terjepit erat.

Berita-berita ini kedengaran seperti lelucon neraka, tetapi ia mengungkapkan satu fenomena: ciri utama AI bukanlah kecerdasan, tetapi 'keyakinan yang aneh'. AI tidak pernah boleh mencapai ketepatan 100%, dan model terkini Google Gemini, yang mampu mencapai ketepatan fakta sekitar 91%, sudah dianggap sebagai tahap tinggi. Namun, ramai pengguna secara perlahan-lahan melepaskan pemikiran mereka semasa menggunakan AI, dan secara automatik menyerahkan semua keputusan kepada satu siri kod.

Untuk ini, TAI mengemukakan satu soalan yang memikat: apabila sebahagian besar masyarakat seluruhnya mencari nasihat daripada hanya dua atau tiga model besar sahaja, bagaimanakah pola pemikiran dan kaedah penyelesaian masalah manusia akan mengalami "homogenisasi" yang mengerikan? Anda menganggap anda menggunakan alat AI untuk meningkatkan kecekapan pengeluaran dan tahap kognitif, tetapi sebenarnya anda sedang "mengeksportkan otak". Dengan kata lain, jika semua orang mulai bergantung kepada AI, ia sangat mungkin menyebabkan manusia kehilangan kemampuan berfikir secara bebas, menjadikan otak seluruh umat manusia seperti salinan yang dicetak daripada acuan yang sama.

TAI juga mengusulkan konsep baru: kemampuan ganda (Dual-use capabilities); penjelasan rasmi ialah: jika kemampuan model AI dalam biologi menjadi lebih kuat, ia tidak hanya boleh digunakan untuk mengembangkan ubat baru, tetapi juga boleh digunakan untuk membuat senjata biologi yang sangat mematikan; jika AI mampu menulis kod dengan sangat baik, ia bukan hanya seorang programmer yang baik, tetapi juga menjadi seorang hacker yang mudah merompak rangkaian dalaman negara.

(Sumber gambar: Rasmi Anthropic)

Apabila monster dengan "fungsi ganda" ini dihubungkan secara besar-besaran ke otak kereta auto-pilot, lengan mesin berat di pabrik, bahkan dihubungkan ke sistem keselamatan dan kumpulan drone, seberapa besar kekacauan yang akan timbul? Di telefon bimbit, AI akan memaparkan satu pesan, "Maaf, saya membuat kesilapan"; tetapi di dunia nyata, penyimpangan pengenalan selama satu saat adalah kejadian keselamatan pekerjaan yang sebenar.

Belum lagi model besar boleh diiterasi setiap beberapa minggu, tetapi manusia memperbaiki undang-undang atau menyempurnakan insurans mengambil masa mengikut「tahun». Masa yang kosong di antara keduanya ialah tempoh「tanpa perlindungan」dengan pertahanan paling lemah. Apabila bencana yang disebabkan oleh AI berlaku, masyarakat sekarang tidak mempunyai「ketahanan」yang cukup untuk menanggungnya.

Untuk menyelesaikan masalah ini, TAI membentuk Frontier Red Team. Tugas mereka adalah ringkas namun abstrak: setiap hari, mereka secara berulang-ulang menyerang dan memancing agen AI yang mereka kembangkan, untuk memahami sejauh mana kekuatan merusaknya dalam dunia nyata, dengan tujuan membangun pertahanan sebelum sistem sosial yang lama ini runtuh sepenuhnya.

Dahulu, jurutera perisian manusia mengendalikan kelajuan evolusi AI, tetapi kini model besar canggih mampu mengkaji kertas kerja dan menulis kod sendiri, dan mungkin dalam masa yang tidak lama lagi akan mampu mengembangkan model besar generasi seterusnya sendiri. Apabila kelajuan AI membuat ulangan diri semakin cepat, evolusi teknologi segera akan melampaui pemahaman manusia.

(Sumber gambar: Dihasilkan oleh AI)

Untuk menghadapi titik balik yang boleh berlaku kapan sahaja, TAI mencadangkan konsep baharu: menjalankan senario latihan kebakaran bagi menghadapi ledakan kecerdasan.

Secara ringkas, TAI bersiap untuk membawa para eksekutif laboratorium terkemuka dan kerajaan-kerajaan dunia ke dalam satu simulasi: mereka ingin menguji sebelum "ledakan kecerdasan" benar-benar berlaku, sama ada manusia mampu menghentikannya.

Pada masa di mana seluruh industri sedang berlari tanpa memandang, memandang semula operasi Anthropic dalam menubuhkan TAI, benar-benar menimbulkan rasa hormat.

OpenAI di sebelah setiap hari menjadi tren bukan kerana pergelutan antara pengurusan tinggi yang berhenti, atau pertikaian hukum yang berterusan dengan Musk. Banyak syarikat AI mengalami prestasi yang lemah, tetapi sambil cuba "memanipulasi senarai", mereka terus mencari pendanaan dari pelbagai sumber, menarik modal sosial melalui penilaian yang tidak realistik. Topik yang ingin dibincangkan oleh A社 TAI telah lama dibincangkan dalam industri, tetapi kebanyakan raksasa AI berpendapat: "Biarkan saja, fokus pada pertumbuhan dahulu." Dalam suasana yang sangat tidak sabar ini, A社 telah mengenakan brek, membawa semua masalah yang tidak patut dipaparkan itu ke hadapan secara terang-terangan, dan menunjukkan sikap baharu terhadap AI: berkembang sambil mengendalikan tata tertib.

A bukanlah organisasi amal, ia bukan sekadar bermurah hati, tetapi sedang memainkan permainan perniagaan yang sangat bijak. Kini, para pemegang kuasa dan kerajaan yang mengendalikan dana besar sudah sangat takut dengan pelbagai kegagalan yang disebabkan oleh AI: membeli model, sama ada skornya tinggi atau rendah tidak terlalu penting, yang paling ditakuti ialah ia tiba-tiba menjadi gila dan menyebabkan bencana besar, di mana ia tidak mungkin dapat dikawal lagi. Sementara itu, A menggunakan TAI untuk membina imej diri sebagai 'orang biasa', supaya pengguna merasa tenang dan dunia percaya.

(Sumber gambar: Dihasilkan oleh AI)

Pada akhir artikel TAI, ia juga secara jelas menyatakan: semua penyelidikan dan amaran awal TAI akan dimasukkan secara langsung ke dalam satu badan utama Anthropic — Long-Term Benefit Trust (LTBT). Misi LTBT ialah memantau rapat keputusan perniagaan syarikat, memastikan setiap tindakan Anthropic adalah demi kepentingan jangka panjang seluruh umat manusia, bukan untuk mengejar keuntungan laporan kewangan jangka pendek.

Ini persis seperti motto terkenal Google pada masa itu, "Jangan menjadi jahat": Melalui TAI, A Society memberitahu seluruh dunia, ketika pesaing sedang berlomba-lomba untuk mempercepat, kami tidak hanya berlari cepat, kami juga sedang menyelidiki cara untuk berhenti.

Mengharapkan raksasa teknologi mengawasi diri mereka sendiri memang agak tidak masuk akal, tetapi di zaman sekarang di mana semua orang berlari kencang dengan mata tertutup dan pedal gas dilas tetap, kehadiran pemain utama yang secara aktif membentuk institut seperti TAI, menginvestasikan dana sungguhan untuk mengkaji indeks ekonomi, mensimulasikan ledakan kecerdasan, dan menyelidiki kemunduran otak manusia, sudah cukup patut untuk dibahas. Oleh sebab itu, Lei Technology menegaskan di awal bahawa pelancaran TAI lebih penting daripada A Society melancarkan model baru secara langsung.

Di Institut Anthropic (TAI), kami akan memanfaatkan maklumat yang boleh diperoleh daripada makmal terkini untuk menyelidik kesan kecerdasan buatan terhadap dunia, serta berkongsi hasil penyelidikan kami dengan awam. Di sini, kami akan berkongsi soalan-soalan yang mendorong agenda penyelidikan kami.

Agenda penyelidikan kami terutamanya berfokus pada empat bidang berikut:

• Penyebaran ekonomi
• Ancaman dan Ketahanan
• Sistem kecerdasan buatan dalam aplikasi sebenar
• Pembangunan yang didorong oleh kecerdasan buatan

Dalam artikel "Pandangan Inti tentang Keselamatan Kecerdasan Buatan", kami menekankan bahawa menjalankan penyelidikan keselamatan yang berkesan memerlukan hubungan rapat dengan sistem kecerdasan buatan terkini. Prinsip yang sama juga berlaku untuk menjalankan penyelidikan yang berkesan mengenai kesan kecerdasan buatan terhadap keselamatan, ekonomi, dan masyarakat.

Di Anthropic, kami telah melihat perubahan mendasar dalam pekerjaan seperti rekabentuk perisian. Kami sedang menyaksikan struktur ekonomi di dalam Anthropic beralih, sistem yang kami bina menghadapi ancaman baharu, dan tanda-tanda awal kecerdasan buatan sedang mempercepatkan pembangunan kecerdasan buatan itu sendiri. Untuk memaksimakan manfaat kemajuan kecerdasan buatan, kami ingin berkongsi sebanyak mungkin maklumat ini. Kami sedang menyelidik bagaimana dinamik ini akan mempengaruhi dunia luar, dan bagaimana awam boleh membantu membimbing perubahan ini.

Di TAI, kami akan mengkaji kesan kecerdasan buatan dalam dunia nyata dari perspektif makmal terkini, kemudian mengumumkan hasil penyelidikan ini untuk membantu organisasi luar, kerajaan, dan awam membuat keputusan yang lebih baik mengenai perkembangan kecerdasan buatan.

Kami akan berkongsi hasil penyelidikan, data, dan alat agar penyelidik peribadi dan institusi boleh menjalankan topik penyelidikan ini dengan lebih mudah. Secara khusus, kami akan berkongsi:

• Kami akan mendapatkan maklumat yang lebih terperinci daripada indeks ekonomi manusia dengan frekuensi yang lebih tinggi untuk memahami kesan dan aplikasi kecerdasan buatan terhadap pasaran tenaga kerja. Kami akan berusaha menjadi isyarat awal bagi perubahan dan gangguan besar.
• Kajian mengenai bidang sosial mana yang paling memerlukan pelaburan untuk meningkatkan ketahanan menghadapi risiko keselamatan baru yang dibawa oleh kecerdasan buatan.
• Perincian lebih lanjut tentang bagaimana Anthropic memanfaatkan alat AI baharu untuk mempercepatkan kemajuan kerja, serta makna potensi peningkatan diri rekursif sistem AI.

TAI akan mempengaruhi keputusan Anthropic. Ini mungkin berupa syarikat berkongsi beberapa data yang sebelumnya tidak akan dibahagikan dengan pihak luar (contohnya, indeks ekonomi), atau menerbitkan teknologi dengan cara yang berbeza (contohnya, analisis ancaman maya, yang menyediakan sokongan data untuk program seperti projek "Glass Wings").

Kami mengharapkan bahawa kajian yang dijalankan oleh Institut TAI akan semakin menjadi rujukan penting bagi Trust Fund Kepentingan Jangka Panjang Anthropic (LTBT). Misi LTBT ialah memastikan Anthropic terus mengoptimumkan tindakan mereka untuk memperoleh kebaikan jangka panjang manusia. Kami telah menyusun rancangan kajian ini bersama LTBT dan kakitangan daripada pelbagai bahagian Anthropic.

Ini adalah jadual dinamik, bukan tetap. Kami akan terus memperbaiki soalan-soalan ini seiring dengan pengumpulan bukti, dan dijangka akan muncul beberapa soalan baharu yang tidak diliput hari ini. Kami menyambut baik maklum balas mengenai jadual ini dan akan mengemaskininya berdasarkan maklumat yang kami peroleh daripada perbincangan.

Jika anda berminat untuk membantu kami menjawab soalan-soalan ini, kami menyambut baik permohonan anda untuk menjadi penyelidik Anthropic. Program penyelidik ini berlangsung selama empat bulan, dibimbing oleh ahli pasukan TAI, di mana anda akan memiliki peluang untuk menyelidik satu atau lebih isu yang berkaitan. Anda boleh mendapatkan maklumat lanjut dan membuat permohonan untuk siri seterusnya di sini.

Agenda penyelidikan kami:

Tarikh akhir dikemas kini: 7 Mei 2026

Penyebaran ekonomi

Memahami bagaimana penyebaran sistem kecerdasan buatan yang semakin kuat mengubah ekonomi adalah penting. Kita juga perlu membangun data ekonomi dan kemampuan ramalan yang diperlukan untuk memilih cara penyebaran kecerdasan buatan yang memberi manfaat kepada awam.

Untuk menjawab soalan-soalan yang diajukan dalam pilar penyelidikan ini, kami akan menyempurnakan data dalam Indeks Ekonomi Manusia. Kami juga akan mengkaji kaedah-kaedah lain untuk memperbaiki model kami mengenai bagaimana kecerdasan buatan yang kuat mempengaruhi masyarakat, sama ada melalui pengangguran, pertumbuhan ekonomi yang belum pernah terjadi sebelumnya, atau aspek lain.

Aplikasi dan penyebaran kecerdasan buatan

• Siapa yang mengadopsi kecerdasan buatan? Pembangunan kecerdasan buatan berfokus pada sedikit syarikat di beberapa negara, tetapi pelaksanaannya bersifat global. Apa yang menentukan sama ada sebuah negara, wilayah, atau bandar boleh mendapatkan kecerdasan buatan? Jika mereka boleh mendapatkannya, bagaimana mereka memperoleh nilai ekonomi daripadanya? Dasar dan model perniagaan apa yang boleh mengubah keadaan ini secara berkesan? Bagaimana pula model bobot bebas atau bobot terbuka mendorong perubahan dinamik ini?
• Aplikasi kecerdasan buatan di peringkat perusahaan: Apa sebab perusahaan mengadopsi kecerdasan buatan? Apa kesannya? Bagaimana kecerdasan buatan mengubah skala di mana perusahaan atau pasukan boleh mencapai kecekapan maksimum? Sejauh mana penggunaan kecerdasan buatan terkonsentrasi di antara perusahaan? Bagaimana perubahan dalam tahap konsentrasi penggunaan kecerdasan buatan mempengaruhi margin keuntungan dan bahagian buruh? Jika pasukan atau perusahaan yang terdiri daripada tiga orang kini mampu menyelesaikan kerja yang sebelumnya memerlukan 300 orang, bagaimanakah struktur industri akan berubah? Atau, jika perusahaan dapat lebih mudah mengumpulkan pengetahuan, dan praktik ini membawa keuntungan skala, akankah kita melihat perusahaan yang lebih besar dan lebih meluas, yang lebih termotivasi untuk memantau pekerja secara sistemik?
• Adakah kecerdasan buatan merupakan teknologi generik? Adakah kecerdasan buatan mengikuti pola "teknologi generik" sebelumnya, iaitu penyebarannya paling pantas dalam aplikasi perniagaan yang menguntungkan, tetapi paling perlahan dalam bidang di mana pulangan sosial melebihi pulangan peribadi? Adakah terdapat dasar atau keputusan yang mampu mengubah tren ini?

Produktiviti dan pertumbuhan ekonomi

• Peningkatan produktiviti: Apakah kesan kecerdasan buatan terhadap kelajuan inovasi dan peningkatan produktiviti keseluruhan ekonomi?
• Bahagikan keuntungan: Mekanisme pra-agihan atau agihan semula apa yang boleh secara berkesan menyebarkan keuntungan daripada pembangunan dan pelaksanaan kecerdasan buatan secara lebih luas?
• Kos perdagangan pasaran: Bagaimana kecerdasan buatan mempengaruhi sistem perdagangan dan kos perdagangan dalam pasaran? Kapan sebaiknya agen mewakili anda dalam perundingan untuk meningkatkan kecekapan pasaran dan hasil yang adil? Kapan pula tidak?

Kesan luas terhadap pasaran tenaga kerja

• Kecerdasan Buatan dan Pekerjaan: Bagaimana kecerdasan buatan akan mengubah status pekerjaan di semua sektor ekonomi? Dengan automasi kecerdasan buatan terhadap proses ekonomi yang ada, tugas dan jawatan baru apa yang mungkin muncul? Perbezaan apakah yang akan berlaku antara wilayah dan negara yang berbeza? “Survei Indeks Ekonomi Manusia” kami akan menyediakan maklumat bulanan mengenai bagaimana orang memandang kesan kecerdasan buatan terhadap pekerjaan mereka serta jangkaan mereka terhadap masa depan. Kami juga akan mengemas kini indeks ekonomi untuk berkongsi data yang lebih kerap dan lebih terperinci.
• Bolehkah kelajuan penyebaran kecerdasan buatan disesuaikan? Pusat-pusat bank negara menggunakan alat-alat seperti kadar polisi dan petunjuk proaktif untuk mengawal inflasi. Adakah syarikat-syarikat kecerdasan buatan (di peringkat industri, bekerjasama dengan kerajaan) juga boleh menggunakan alat-alat serupa untuk mengawal kelajuan penyebaran kecerdasan buatan, industri demi industri? Adakah tindakan ini akan membawa faedah awam yang ketara?

Masa depan pekerjaan dan tempat kerja

• Pandangan pekerja terhadap pekerjaan: Bagaimana pekerja dari pelbagai industri memandang perubahan kerjaya? Sejauh manakah mereka mempunyai kesan terhadap perubahan ini? Adakah kekuatan “pekerja” boleh dipertahankan atau diubah?
• Sistem pengembangan bakat profesional: Banyak industri bergantung pada jawatan peringkat permulaan (contohnya, pembantu peguam, analis permulaan, dan pembangun pembantu) untuk membentuk profesional peringkat tinggi masa depan. Jika kecerdasan buatan menggantikan pekerjaan yang biasanya digunakan untuk mengumpulkan keahlian, bagaimanakah orang awalnya akan menjadi pakar? Apakah kesannya terhadap bekalan profesional peringkat tinggi jangka panjang dalam bidang tertentu?
• Pembelajaran untuk Masa Depan: Apa yang perlu dipelajari orang hari ini untuk bersiap menghadapi masa depan? Apa sahaja kerjaya masa depan? Bagaimana kecerdasan buatan akan mengubah cara pembelajaran dan pengembangan kemahiran profesional?
• Peranan kerja berbayar: Jika kecerdasan buatan secara signifikan mengurangkan kedudukan pusat kerja berbayar dalam kehidupan manusia, dalam keadaan apakah manusia boleh mengalihkan masa dan tenaga mereka kepada sumber-sumber bermakna lain? Apa yang boleh kita pelajari daripada sejarah atau kumpulan semasa yang menghadapi kekurangan atau ketidakpentingan kerja? Bagaimanakah masyarakat harus merespons perubahan ini?

Ancaman dan Ketahanan

Sistem kecerdasan buatan seringkali mampu meningkatkan pelbagai kemampuan secara serentak, termasuk kemampuan dwiguna. Sebagai contoh, sistem kecerdasan buatan yang meningkatkan kemampuan biologi juga lebih mudah menghasilkan senjata biologi. Sistem kecerdasan buatan yang mempunyai kemampuan pemrograman komputer yang kuat juga lebih mudah menyusup ke sistem komputer. Jika kita dapat memahami ancaman yang mungkin diperburuk oleh sistem kecerdasan buatan dengan lebih baik, masyarakat akan lebih mudah menghadapi bentuk ancaman yang berubah ini.

Kami mengemukakan soalan-soalan ini dengan tujuan membina perkongsian untuk memperkuat kemampuan dunia dalam menghadapi kecerdasan buatan yang transformasional dan membina sistem amaran awal terhadap ancaman baru yang mungkin timbul. Banyak daripada soalan-soalan ini akan memandu agenda penyelidikan pasukan merah terkini kami.

Menilai risiko dan kemampuan dua guna:

• Teknologi dua guna: Kecerdasan buatan yang kuat secara intrinsik bersifat dua guna: ia boleh menjadi alat untuk meningkatkan perubatan dan pendidikan, tetapi juga boleh digunakan untuk pemantauan dan penindasan. Bolehkah kita membina alat keterlihatan untuk memahami sama ada keadaan ini sedang berlaku dan bagaimana ia berlaku?
• Bagaimana menentukan harga risiko dengan cara yang masuk akal: Apakah terdapat kaedah yang berkesan dan didorong pasaran untuk meningkatkan ketahanan masyarakat terhadap ancaman yang dijangka daripada sistem kecerdasan buatan? Bolehkah kita membangunkan kaedah penentuan harga risiko baru, atau alat teknologi dan organisasi manusia, untuk meningkatkan ketahanan sebelum ancaman yang boleh diramalkan (seperti peningkatan kemampuan serangan siber kecerdasan buatan) berlaku?
• Keseimbangan serangan dan pertahanan: Adakah kemampuan yang diberdayakan oleh kecerdasan buatan secara mendasar memberi keuntungan kepada penyerang di bidang-bidang seperti ruang siber dan keselamatan biologi? Apakah kecerdasan buatan juga memberi keuntungan kepada penyerang apabila digunakan dalam bidang-bidang tradisional yang lebih lama, seperti integrasi yang semakin rapat dengan sistem pengendalian komando? Secara lebih luas, bagaimanakah kecerdasan buatan akan mengubah sifat konflik manusia?

Membuat langkah-langkah pengurangan risiko:

• Rancangan tanggapan krisis: Semasa Perang Dingin, Presiden Amerika Syarikat pernah mempunyai talian panas langsung ke Kremlin untuk digunakan semasa krisis nuklear. Jadi, jika sistem kecerdasan buatan menyebabkan krisis, infrastruktur geopolitik macam apa yang diperlukan? Infrastruktur ini tidak semestinya antara negara, tetapi mungkin antara syarikat atau antara syarikat.
• Mekanisme pertahanan yang lebih pantas: Kemampuan kecerdasan buatan boleh membuat kemajuan besar dalam beberapa bulan, manakala tindak balas peraturan, insurans, dan infrastruktur memerlukan bertahun-tahun. Bagaimana kita boleh menutup jurang ini? Mekanisme pertahanan seperti pampasan automatik, pengesanan ancaman kecerdasan buatan, atau kemampuan tindak balas yang telah ditempatkan sebelumnya, adakah ia mampu mengekori kelajuan dan skala serangan kecerdasan buatan? Atau, ketidaksamaan ini bersifat struktural? Bagaimana pula kita boleh menempatkan mekanisme pertahanan ini seefektif mungkin?

Kemampuan maklumat untuk pemantauan

• Kesan kecerdasan buatan terhadap pemantauan: Bagaimana kecerdasan buatan akan mengubah cara pemantauan beroperasi? Adakah ia akan mengurangkan kos pemantauan, meningkatkan kecekapan pemantauan, atau kedua-duanya?

Sistem kecerdasan buatan dalam aplikasi sebenar

Interaksi antara manusia, organisasi, dan sistem kecerdasan buatan akan menjadi sumber penting perubahan sosial. Memahami bagaimana sistem kecerdasan buatan mungkin mengubah manusia dan institusi yang berinteraksi dengannya adalah bidang penyelidikan utama tim kesan sosial kami. Untuk menyelidiki perubahan-perubahan ini, kami sedang memperbaiki alat-alat sedia ada dan membangun alat-alat baharu untuk menyelenggarakan penyelidikan, merangkumi segala aspek daripada perisian yang meningkatkan kebolehlihatan platform hingga alat-alat untuk menjalankan penyelidikan kualitatif berskala besar.

Kesan kecerdasan buatan terhadap individu dan masyarakat:

• Epistemologi kumpulan: Apa yang berlaku kepada epistemologi kita apabila sebahagian besar populasi merujuk kepada model yang sedikit dan sama? Adakah kita boleh mencari cara untuk mengukur perubahan besar dalam kepercayaan, gaya penulisan, dan kaedah penyelesaian masalah yang disebabkan oleh penggunaan bersama kecerdasan buatan?
• Pemikiran kritis: Seiring sistem kecerdasan buatan menjadi semakin kuat dan semakin dipercaya, bagaimana kita dapat mengesan dan mengelakkan penurunan kemampuan pemikiran kritis manusia akibat ketergantungan yang semakin meningkat terhadap penilaian kecerdasan buatan?
• Antaramuka teknikal: Antaramuka teknikal menentukan bagaimana manusia berinteraksi dengan teknologi—televisyen menjadikan manusia sebagai penonton pasif, manakala komputer memudahkan manusia menjadi pencipta kreatif. Antaramuka macam apakah yang boleh kita bina supaya sistem kecerdasan buatan dapat memperbaiki dan mempromosikan autonomi manusia?
• Pengurusan sistem kolaborasi manusia-mesin: Bagaimana manusia mengurus pasukan yang terdiri daripada manusia dan sistem kecerdasan buatan? Sebaliknya, bagaimana sistem kecerdasan buatan mengurus pasukan yang terdiri daripada manusia, kecerdasan buatan, atau kombinasi keduanya?

Mengenal kesan besar yang dibawa oleh kecerdasan buatan:

• Kesan tingkah laku: Seperti media sosial yang menyebabkan perubahan tingkah laku manusia, kecerdasan buatan juga boleh membentuk tingkah laku manusia. Apakah kaedah pemantauan atau pengukuran yang boleh membantu penyelidik memahami dinamik ini?
• Menggalakkan penyelidikan: Adakah terdapat mekanisme dan alat yang telus yang membolehkan orang ramai (bukan hanya syarikat kecerdasan buatan terkini) menyelidiki aplikasi kecerdasan buatan dalam dunia nyata?

Memahami dan mengurus model kecerdasan buatan:

• Nilai sistem: Apakah nilai yang diungkapkan oleh sistem kecerdasan buatan? Bagaimana nilai-nilai ini berkaitan dengan cara sistem dilatih? Lebih khusus lagi, bagaimana kita mengukur pengaruh “komposisi” kecerdasan buatan terhadap perilakunya selepas dilancarkan? Kami akan memperluas penyelidikan sebelumnya mengenai soalan-soalan ini.
• Pengurusan agen autonomi: Aspek-aspek undang-undang, sistem tadbir, dan mekanisme pertanggungjawaban yang sedia ada yang boleh diterapkan kepada agen AI autonomi? Sebagai contoh, bagaimana undang-undang kelautan menangani masalah kapal yang ditinggalkan berkaitan dengan cara undang-undang menangani agen tanpa pengawasan. Sebaliknya, adakah terdapat aspek-aspek dalam undang-undang sedia ada yang sudah diterapkan kepada agen AI tetapi sebenarnya tidak sepatutnya diterapkan?
• Kebolehpercayaan agen: Aspek-aspek mana daripada agen kecerdasan buatan autonom yang boleh disesuaikan untuk menyesuaikan diri dengan undang-undang, sistem tadbir, dan mekanisme pertanggungjawaban yang sedia ada? Sebagai contoh, adakah kita boleh memastikan bahawa agen kecerdasan buatan mempunyai identiti unik dan boleh dipercayai, walaupun tanpa kawalan manusia secara langsung?
• Pengurusan AI oleh AI: Bagaimana kita boleh memanfaatkan AI secara berkesan untuk mengurus sistem AI? Dalam bidang-bidang pengawasan AI manakah manusia mempunyai kelebihan komparatif, atau diwajibkan untuk “terlibat” berdasarkan keperluan undang-undang atau peraturan?
• Interaksi agen: Apa sahaja norma yang muncul apabila agen kecerdasan buatan berinteraksi? Bagaimana agen yang berbeza mengekspresikan preferensi yang berbeza, dan bagaimana preferensi ini mempengaruhi agen lain?

Pembangunan yang didorong oleh kecerdasan buatan

Seiring dengan semakin canggihnya sistem kecerdasan buatan, para saintis sedang menggunakannya untuk menjalankan lebih banyak penyelidikan. Ini bermaksud semakin banyak penyelidikan saintifik dijalankan secara autonom atau separuh autonom dengan sedikit campur tangan manusia. Dalam bidang penyelidikan kecerdasan buatan, sistem yang semakin canggih mungkin digunakan untuk membangun versi seterusnya sendiri. Kami kadang-kadang menyebut corak ini sebagai "penyelidikan dan pembangunan kecerdasan buatan yang dipacu oleh kecerdasan buatan".

Pembangunan AI yang didorong oleh AI mungkin merupakan “keuntungan semula jadi” dalam menciptakan sistem yang lebih pintar dan lebih kuat. Seperti kemajuan dalam kemampuan pengkodean yang menghasilkan kemampuan siber yang boleh digunakan untuk tujuan awam dan tentera, kemajuan dalam kemampuan saintifik mungkin menghasilkan kemampuan biologi yang boleh digunakan untuk tujuan awam dan tentera, kemajuan dalam kerja teknikal yang kompleks juga mungkin secara semula jadi menghasilkan sistem AI yang mampu membangunkan AI sendiri.

Pembangunan kecerdasan buatan yang didorong oleh kecerdasan buatan sendiri mengandungi risiko potensi yang besar. Ketika penubuh dasar menilai langkah-langkah yang boleh diambil, sangat penting untuk memahami trend perubahan kelajuan perkembangan kecerdasan buatan, serta sama ada penyelidikan kecerdasan buatan akan mula menghasilkan kesan bunga berterusan.

Artificial intelligence for artificial intelligence development

• Pengurusan pembangunan kecerdasan buatan: Jika sistem kecerdasan buatan digunakan untuk membangun dan meningkatkan dirinya sendiri secara autonomi, bagaimanakah manusia boleh memahami dan mengawal sistem-sistem ini dengan berkesan? Akhirnya, apakah yang akan menguruskan sistem-sistem ini?
• Latihan kecemasan ledakan maklumat: Bagaimana kita menjalankan latihan kecemasan ledakan maklumat? Bagaimana cara menjalankan latihan meja agar benar-benar menguji kemampuan pengambilan keputusan oleh kepemimpinan laboratorium, pihak pengurusan, dan kerajaan?
• Telemetri pembangunan AI: Bagaimana kita mengukur kelajuan keseluruhan pembangunan AI? Teknologi telemetri dan sokongan infrastruktur apakah yang diperlukan untuk mengumpulkan maklumat ini? Bagaimana indikator yang berkaitan dengan pembangunan AI boleh berfungsi sebagai isyarat awal bagi peningkatan diri berulang?
• Mengawal percepatan perkembangan kecerdasan buatan: Jika ledakan kecerdasan akan berlaku, titik campur tangan mana yang boleh memperlambat atau mengubah kelajuan ledakan ini? Jika manusia boleh melakukan campur tangan, entiti mana yang sepatutnya mempunyai keupayaan ini—kerajaan? Perusahaan?

Penggunaan kecerdasan buatan dalam bidang penyelidikan — iaitu penyelidikan bidang lain yang didorong oleh kecerdasan buatan:

• Pohon teknologi: Kecerdasan buatan mempercepat perkembangan dalam beberapa bidang sains jauh lebih pantas berbanding bidang lain, bergantung pada ketersediaan data, indikator penilaian, serta sejauh mana pengetahuan bersifat tersirat atau dibatasi oleh institusi. Seberapa tidak seimbangkah gradasi perkembangan ini? Perubahan yang dibawa oleh kemajuan sains pula bermakna masalah manusia apa yang akan didahulukan untuk diselesaikan?
• Perbatasan yang berliku-liku: Kemampuan model lebih kuat di beberapa bidang daripada yang lain. Bidang-bidang dengan eksternalitas positif besar—seperti pembangunan ubat dan sains bahan—mendapat pelaburan jauh lebih rendah daripada nilai yang sepatutnya. Pasar mengarahkan peningkatan model berdasarkan pulangan peribadi, tetapi adakah kita boleh meningkatkan prestasi model untuk mengatasi eksternaliti sosial?

Artikel ini berasal dari公众号 "Value Research" (ID: jiazhiyanjiusuo), penulis: Dingxi