CEO Anthropic mencadangkan kerangka dasar AI semasa pertumbuhan teknologi yang pantas

Baru-baru ini, CEO raksasa AI terkemuka Anthropic, Dario Amodei, menerbitkan artikel panjang beribu-ribu perkataan yang menjadi viral di seluruh internet: “Kebijakan di Era Indeks Kecerdasan Buatan”. Artikel tersebut membincangkan lima bidang kebijakan secara terperinci, menyampaikan pemerhatian beliau serta mencadangkan cadangan sistematik dari segi pengawasan hingga geopolitik.

(Pautan asal:https://darioamodei.com/post/policy-on-the-ai-exponential, versi penuh bahasa Cina disertakan di akhir artikel ini.)

Harus diakui, di kalangan Silicon Valley yang penuh dengan omong kosong “mengubah dunia” dan hanya pandai membuat janji kosong, Dario adalah aliran langka yang segar.

Dia sangat jujur, bahkan agak “mengorbankan keluarga sendiri”, dengan membongkar topeng pembohongan yang dipakai oleh dunia teknologi.

Orang dalam industri sering menyalahkan kebimbangan awam terhadap AI sebagai “pengurusan PR yang buruk”, tetapi Dario menyangkal dengan tegas: orang bimbang kerana risiko itu nyata, bukan masalah PR sama sekali.

Dia juga secara langsung mengakui kebenaran yang dihindari sepenuhnya oleh raksasa teknologi: AI sangat mungkin menyebabkan gelombang pengangguran yang serius dan berkepanjangan, membuat ekonomi terjebak dalam keadaan ekstrem "pertumbuhan super dan ketidaksetaraan super".

Tetapi jika kita mengikuti rawatan yang diberikan oleh "pemberi isyarat" di garis depan industri ini, kita akan mendapati satu paradoks struktural yang menimbulkan pemikiran mendalam:

Pemimpin yang penuh tanggung jawab ini, sambil menyerukan agar industri ini dikenakan belenggu, secara objektif sedang berusaha mendorong peralihan kuasa yang belum pernah terjadi sebelumnya. Para elit Silicon Valley sedang menulis semula peraturan masyarakat manusia.

Menghadapi AI yang berkembang dengan kelajuan kilat, Dario menjadi cemas dan mencadangkan kerajaan segera mengawal AI seperti mengawal pesawat dan ubat-ubatan.

Sebagai contoh, wujudkan mekanisme serupa dengan Federal Aviation Administration (FAA) yang memerlukan model canggih yang mencapai tahap pengiraan tertentu untuk lulus ujian keselamatan paksa pihak ketiga sebelum dibenarkan dilancarkan.

Titik permulaan jelas demi keselamatan manusia.

Namun, dari segi hukum objektif evolusi perniagaan, industri penerbangan menjadi monopoli oligopoli yang sangat terkonsentrasi kerana kos pematuhan sangat tinggi.

Apabila industri AI benar-benar “FAA-ized”, yuran pengawasan yang mahal, ujian red team berkala, dan ujian penetrasi akan secara langsung berubah menjadi “dinding desisan” yang tak tertembus.

Pengawasan, kadang-kadang merupakan parit pertahanan bagi pemimpin pasaran. Syarikat permulaan dan komuniti sumber terbuka sama sekali tidak mampu menanggungnya.

Hasil akhirnya adalah: para raksasa, atas dasar “cinta besar” terhadap keselamatan umat manusia, secara objektif menggunakan kuasa awam untuk melakukan pembersihan sah, dan menetapkan kedudukan oligarki mereka ke dalam undang-undang.

Logik halus yang sama juga wujud dalam bidang perubatan dan geopolitik.

Dario menyeru agensi tradisional seperti FDA untuk melonggarkan persetujuan terhadap pembangunan ubat AI, menerima simulasi AI sebagai pengganti ujian klinikal yang panjang. Niatnya baik, tetapi ini tanpa diragukan lagi membersihkan rintangan bagi raksasa AI yang memiliki kekuatan pengiraan terkuat untuk menyerang industri perubatan bernilai trilion dolar.

Sementara itu, beliau membayangkan "Persekutuan AI Negara Demokratik" yang berkongsi cip di dalamnya dan mempertahankan dengan ketat terhadap pihak luar.

Jika aliansi ini dibentuk, siapa yang menyediakan teknologi? Siapa yang dikeluarkan? Siapa yang dianggap musuh? Siapa yang mendapat keuntungan sepanjang proses ini?

Untuk mempertahankan jurang teknologi, raksasa teknologi bukan sahaja penyedia teknologi, tetapi juga secara semulajadi menjadi pembentuk peraturan permainan baharu, bahkan mungkin berubah menjadi "kompleks pertahanan digital" baharu yang menerima bajet pertahanan yang besar.

Jika kita mengkaji garis-garis halus sejarah, semuanya sebenarnya telah ada tanda-tandanya.

Secara sejarah, apabila sebuah syarikat menjadi cukup besar, ia sering kali "menawan negara atau mengambil ciri-ciri quasi-negara". Dario sendiri dalam teks ini menyebut satu perbandingan yang sangat tepat: Syarikat Hindia Timur British.

Perusahaan Hindia Timur awalnya hanyalah sekumpulan pedagang yang berdagang rempah-rempah, tetapi demi melindungi rute pelayaran dan mengurus kepentingan antarabangsa yang besar, mereka perlahan-lahan mula merekrut tentera, membina mahkamah, dan mengeluarkan wang kertas, akhirnya menjadi “negara quasi” yang menguasai anak benua itu.

Pemain besar Silicon Valley hari ini sedang mengikuti jalan yang persis sama.

Hanya sahaja media pada masa itu ialah kapal perang dan senjata, hari ini ialah kuasa pengiraan.

Dario membayangkan satu masa depan yang menakjubkan: jika AI terus berkembang secara eksponen, ia akan menjadi "negara jenius di pusat data": AI seperti kumpulan jenius di semua bidang, dan memiliki AI yang kuat sama seperti memiliki sejumlah besar jenius yang berkhidmat kepada anda. Oleh itu, apabila satu tentera yang memiliki AI yang kuat berhadapan dengan tentera tanpa AI, jurangnya seperti "Pasukan Marinir Perang Dunia Kedua berbanding ksatria abad pertengahan".

Apabila raksasa teknologi menguasai teknologi super yang mampu menyebabkan kehancuran kewangan, menghasilkan senjata biologi, atau bahkan menentukan corak geopolitik global, institusi negara tradisional mula sukar mengawalnya secara berkesan.

Raksasa-raksasa telah cuba menetapkan piawaian keselamatan sendiri, menguji model sendiri, dan bahkan membayangkan pelan perikatan antarabangsa.

Ini bukan kerana mereka sekelompok pengejar kuasa jahat, tetapi kerana perkembangan teknologi mencapai ukuran ini, kekosongan kuasa dan kompleksiti insan memaksa mereka secara semula jadi mengikuti jalan yang serupa.

Di zaman di mana kuasa pengiraan menentukan segalanya, kekuatan individu kelihatan dipadatkan tanpa had.

Dario dengan tanpa belas kasihan mengungkap kebenaran: AI bukan hanya menggantikan tenaga kerja fisik, tetapi kemampuan kognitif itu sendiri yang menjadi kebanggaan manusia.

Apabila penalaran logik dan perancangan pelan yang kita latih dengan susah payah di tempat kerja kelihatan seperti permainan kanak-kanak di hadapan “negara yang menghimpun semua genius” AI, bagaimana kita harus bersikap?

Resep yang diberikan oleh para raksasa ialah: sokongan makroekonomi seperti Pendapatan Asas Universal (UBI), di mana negara akan memberi wang kepada anda, walaupun anda tidak bekerja.

Tapi perut terjamin, siapa yang akan mengisi lubang besar di hati itu?

Mungkin seperti metafora Dario dalam teks tersebut: walaupun mesin sudah lama mengalahkan manusia dalam catur dan go, orang masih akan mendedikasikan seumur hidup mereka kepada papan catur, dan tetap dihormati.

Kerana mesin mengira "penyelesaian terbaik" yang sejuk, manakala manusia mencari "pengalaman itu sendiri" yang penuh kehidupan.

Ciri-ciri yang tidak boleh distandardkan akan menjadi sumber daya paling langka di masa depan.

Dalam satu cerita sampingan The Lord of the Rings, dua Hobbit cuba membangunkan Treebeard — seorang pohon berkesedaran yang bijak tetapi pergerakannya perlahan — untuk mempertahankan hutan beliau daripada tentera yang sedang menebang hutan tersebut. Masalahnya ialah, kelajuan pergerakan Treebeard sangat berbeza dengan Hobbit. Beliau sahaja memerlukan sehari penuh untuk mengucapkan salam kepada pohon lain, maka hampir mustahil untuk membuat beliau dan rakan-rakannya bertindak dengan cukup pantas.

Persimpangan antara kecerdasan buatan (AI) dan sistem politik kita terasa sedikit seperti Hobbit dan Treebeard. AI sedang berkembang dengan kelajuan kilat (slang/idiom, bermaksud kelajuan yang sangat pantas) — dalam masa hanya empat tahun, model AI telah berubah dari hampir tidak mampu menulis satu baris kod yang berterusan, kepada menulis sebahagian besar kod di syarikat AI utama. Kemajuan serupa juga berlaku dalam biologi, fizik, matematik, kewangan, undang-undang, terjemahan, dan banyak bidang lain. Hukum penskalaan AI, yang meramalkan bahawa kemampuan kognitif am akan meningkat secara eksponen seiring dengan peningkatan kapasiti pengiraan, kini disokong oleh bukti empirikal lebih daripada sepuluh tahun. Jika hukum penskalaan ini berterusan hanya selama satu atau dua tahun lagi, kita kemungkinan besar akan mendapat apa yang saya sebut sebagai “AI Kuat (Powerful AI)”, atau “negara jenius di dalam pusat data”.

Sebaliknya, dasar—terutama undang-undang—berkembang sangat perlahan. Biasanya ini ada alasan yang cukup kuat: kerajaan memiliki kuasa yang sangat besar, dan biasanya terbaik untuk tidak menjalankan kuasa ini dengan tergesa-gesa. Tetapi ketidakselarasan dalam skala masa ini masih sangat menyakitkan: dalam masa beberapa tahun yang mungkin diperlukan oleh parlimen untuk mengambil tindakan, AI mungkin berubah dari mainan yang menarik menjadi sebuah negara genius yang sebenarnya.

Dalam beberapa tahun terakhir, sejak AI menjadi teknologi perniagaan utama, kami yang berharap untuk menanganinya secara bertanggungjawab menghadapi dilema. Kami dapat melihat dengan jelas arah pertumbuhan eksponen ini: kami sangat meragukan bahawa dalam beberapa tahun, AI akan menjadi salah satu teknologi langka yang secara mendasar membentuk semula seluruh landskap dasar politik, sama seperti senjata nuklear yang membentuk semula geopolitik, atau revolusi industri yang secara mendasar membentuk semula setiap isu ekonomi dan sosial. Namun, bagi mereka yang hanya memperhatikan apa yang boleh dilakukan AI pada masa itu, ia kelihatan seperti teknologi yang sangat biasa—mungkin serupa dengan aplikasi pengguna terkini atau kripto mata wang. Sukar untuk meyakinkan kebanyakan pembuat dasar dan syarikat bahawa selain sikap laissez faire, ada sesuatu yang bermakna. Secara adil, fakta bahawa kesan radikal AI belum nampak, dan kami tidak pasti bentuk apa yang mungkin diambilnya, juga membuatkan sukar untuk merekabentuk dasar yang betul, walaupun ada niat untuk bertindak.

Mengingat batasan yang dikenakan oleh situasi ini, banyak pendukung keselamatan (termasuk Anthropic) sejauh ini telah fokus pada mendorong tindakan kebijakan yang dapat mempertahankan pilihan, bersiap untuk respons cepat di masa depan (tee up, slang/idiom, bermaksud membuat persiapan atau dasar), atau membantu dunia memahami lebih baik apa yang akan segera terjadi (coming down the pike, slang/idiom, bermaksud sesuatu yang akan segera terjadi atau muncul) — seperti undang-undang transparansi, pembatasan ekspor chip, dan pengumpulan data mengenai dampak AI terhadap tenaga kerja. Ini belum cukup, tetapi rasanya seperti satu-satunya hal yang bisa dilakukan saat ini.

Namun, dalam beberapa bulan terakhir, bukti mengenai kekuatan luar biasa AI dan risikonya telah menjadi tidak dapat dipungkiri. Mungkin contoh paling representatif adalah Claude Mythos Preview, serta penemuan bahwa model terkini (frontier models) membawa risiko nyata terhadap keamanan siber, menciptakan kemungkinan merusak sektor keuangan, infrastruktur penting, dan keamanan nasional. Mythos Preview benar-benar mengacaukan (scrambled, slang/extended meaning: membuat kacau, mengacaukan) lanskap keamanan siber global. Namun makna yang lebih luas adalah, ia secara tak terbantahkan membuktikan bahwa model AI kini telah menjadi alat yang memiliki signifikansi global dan strategis. Risiko siber yang dibawa oleh model tingkat Mythos tidak akan menjadi risiko terakhir yang harus kita hadapi. Saya percaya risiko biologis kemungkinan besar akan segera menyusul, diikuti oleh risiko otonomi AI yang serius (catatan 1).

Kita kini secara global perlu memulakan sebuah institusi dasar yang perlahan dan tidak stabil untuk menghadapi risiko dan peluang yang akan bertumbuh secara eksponen dengan laju yang menakjubkan mulai sekarang. Banyak pembuat dasar menunjukkan sikap yang semakin terbuka untuk bertindak, dan menggembirakan untuk melihat rakan sejawat kita juga berubah pandangan untuk menyokong posisi yang sama yang telah kita perjuangkan selama beberapa tahun terakhir (idiom, bermaksud mengubah pandangan untuk bersetuju). Ini adalah perkara baik, tetapi saya risau tindakan awal ini sekurang-kurangnya tertinggal setahun berbanding kemajuan pantas AI. Artikel ini cuba mengecilkan jurang ini: menjelaskan kedudukan semasa pertumbuhan eksponen, serta tindakan kolektif yang diperlukan untuk menghadapi masa kini (idiom, bermaksud menghadapi cabaran atau momen penting semasa ini).

Saya akan fokus pada lima bidang dasar kebijakan yang perlu dipertimbangkan semula dalam dunia AI: pengawasan dan keselamatan awam, dasar ekonomi makro dan cukai, inovasi sains, keseimbangan kuasa antara negara dan masyarakat, serta geopolitik. Saya akan terutamanya membincangkan dari sudut dasar Amerika Syarikat, kerana Anthropic adalah syarikat Amerika, tetapi kebanyakan cadangan yang saya ajukan juga relevan dengan wilayah lain di dunia.

Seiring dengan artikel ini, Anthropic akan menerbitkan cadangan undang-undang mengenai ujian model canggih, serta kerangka dasar polisi mengenai kehilangan pekerjaan, dan kami berniat memberikan sokongan kewangan yang besar untuk ini. Kami merancang untuk melakukan lebih banyak lagi pada masa depan, tetapi kami memandang ini sebagai langkah pertama yang menunjukkan kesungguhan kami.

1. Pengawasan dan Keselamatan Awam

Setiap teknologi atau produk baru mempunyai penggunaan yang bermanfaat dan merbahaya, dengan demikian menciptakan dilema antara inovasi dan keselamatan. Mengawal selia produk akan mengurangkan kemungkinan ia menyebabkan keburukan dan memainkan peranan penting dalam meningkatkan kehidupan orang di seluruh dunia, tetapi ia juga boleh secara langsung mengurangkan manfaat yang dibawa serta secara tidak langsung menghambat inovasi. Terdapat juga pandangan Hayekian yang menyatakan bahawa pihak berkuasa pengawal biasanya kurang memiliki maklumat yang diperlukan untuk membuat keputusan yang tepat mengenai timbangan ekonomi yang kompleks, oleh itu pengawal selia biasanya tidak berkesan dan rumit. Konsep yang berkaitan ialah dilema Collingridge, yang menyatakan bahawa kesan teknologi biasanya sukar diramalkan sehingga terlambat untuk menguruskannya dengan mudah.

Pada 2023–2024, dinamika ini menjadi sangat menonjol dalam bidang AI (idiom, bermaksud menjadi menonjol, menarik perhatian, atau kelihatan menakutkan). Bagi Anthropic, jelas bahawa AI di masa depan mungkin mempunyai kemampuan untuk menghasilkan senjata biologi yang boleh mengancam jutaan orang, atau tingkah laku otonomnya yang tidak tepat dalam keadaan ekstrem bahkan boleh mengancam manusia itu sendiri. Yang kurang jelas ialah bentuk tepat risiko tersebut akan muncul, bagaimana cara terbaik untuk menguji dan meredakan risiko tersebut, serta bagaimana ia akan berkembang dalam amalan (idiom, bermaksud berkembang, menghasilkan kesudahan). Oleh itu, undang-undang yang dirancang awal mempunyai risiko tinggi untuk menjadi tidak berkesan—mencipta keperluan pematuhan yang tidak bermakna atau bernilai rendah, sambil melepaskan sumber paling penting bagi risiko sebenar (Catatan 2).

Pada akhirnya, kami menyimpulkan bahawa pendekatan yang betul pada masa itu ialah transparansi. Pembangun model AI harus mendedahkan prosedur keselamatan mereka serta ujian yang dijalankan pada model tersebut, dan melaporkan sebarang insiden keselamatan penting, supaya awam dan komuniti saintifik dapat memahami risiko tersebut dengan lebih baik apabila ia muncul. Apabila dan jika risiko menjadi lebih jelas dan bentuknya lebih terperinci, bukti yang diperoleh melalui transparansi boleh digunakan untuk mereka undang-undang yang bijak yang secara tepat menangani risiko yang paling mengkhawatirkan. Oleh itu, pada tahun 2025, Anthropic menyokong undang-undang transparansi, membantu meluluskan SB 53 di California, RAISE di New York, dan SB 315 di Illinois (diluluskan pada awal 2026), serta menggalakkan pembentukan piawaian transparansi di peringkat persekutuan.

Namun, risiko kini telah jelas timbul. Saatnya melangkah melebihi transparansi dan menerapkan pengawasan yang lebih serius dan mengikat terhadap AI. Saya percaya, sekurang-kurangnya pada tahap pertumbuhan eksponensial semasa ini, perbandingan terbaik adalah kereta, pesawat, atau ubat—teknologi kuat yang tak terpisahkan daripada ekonomi moden, tetapi jika direka atau dioperasikan dengan salah, mampu menyebabkan kematian dalam jumlah besar. Oleh itu, saya percaya kita harus membentuk kerangka pengawasan AI berdasarkan contoh agensi seperti Federal Aviation Administration (FAA). Model AI terkini sepatutnya seperti pesawat, yang perlu dikenakan ujian teknikal dan audit, dan jika gagal memenuhi piawaian keselamatan tinggi, penerbitannya harus dihalang atau ditarik balik, dianggap sebagai ancaman kepada keselamatan awam. Saya menghargai arahan eksekutif kerajaan Trump yang secara beransur-ansur bergerak ke arah memperluas peranan kerajaan dalam bidang AI, walaupun cadangan Anthropic mencadangkan tindakan yang lebih lanjut. Cadangan kami merangkumi elemen-elemen berikut:

• Model yang melebihi ambang kekuatan pengiraan tertentu mesti menjalani ujian paksa oleh pihak ketiga yang layak untuk menilai tahap risiko mereka dalam empat bidang tertentu: keselamatan siber, senjata biologi, kehilangan kawalan terhadap sistem AI, serta pengembangan automatik yang mungkin mempercepat risiko-risiko lain ini.
• Jika penilaian pihak ketiga menganggap model tersebut mengandungi risiko yang tidak boleh diterima, kerajaan harus mempunyai kuasa untuk menghalang atau menggagalkan pelaksanaan model tersebut. Kuasa ini mesti terhad kepada empat risiko khusus yang disebutkan di atas, dan mesti disertai dengan langkah-langkah perlindungan terhadap bias politik atau keputusan sewenang-wenang.
• Penilaian pihak ketiga boleh dijalankan oleh agensi kerajaan (serupa dengan FAA) atau sekumpulan organisasi swasta yang diberi kuasa dan diperiksa oleh kerajaan untuk menilai model berdasarkan beberapa piawaian (pendekatan “pasar pengawasan”).
• Perusahaan AI yang mengembangkan model AI canggih harus memiliki standard keselamatan yang kuat untuk melindungi timbangan model mereka, harus menjalani ujian red teaming dan ujian penetrasi secara berkala, dan harus bekerjasama dengan kerajaan untuk membendung pelaku ancaman utama.
• Peristiwa keselamatan dalam empat bidang utama ini mesti dilaporkan secara tepat masa.

Mungkin suatu hari, mungkin segera, apabila sistem AI paling kuat kelihatan tidak lagi seperti kapal terbang atau kereta, tetapi lebih seperti bahan nuklear yang boleh dijadikan senjata—ia menjadi ancaman kepada manusia, bukan sekadar ancaman kepada keselamatan awam, kita perlu melangkah lebih jauh. Jika ini berlaku, kita mungkin perlu mengambil langkah pengawasan yang lebih radikal daripada yang saya senaraikan di atas (catatan 3). Namun, sebagaimana pada tahun 2024 sukar untuk menargetkan dan mengaplikasikan langkah-langkah yang saya cadangkan sekarang, saya rasa kita tidak perlu terlalu tergesa-gesa (idiom, bermaksud bertindak terlalu awal atau terlalu maju). Kita perlu merekabentuk dasar bagi bahaya yang sedang muncul hari ini, sambil meletakkan asas agar kita boleh mempercepatkan tindakan kita apabila bahaya baru muncul.

2. Ekonomi makro dan dasar cukai

Selama ini, kerajaan-kerajaan di seluruh dunia telah menghadapi cabaran bagaimana mendorong pertumbuhan ekonomi sambil menyediakan perkhidmatan awam yang penting dan memastikan kelompok paling lemah mendapat perhatian. Salah satu anggapan penting (dan secara keseluruhan betul) dalam perbincangan ini ialah bahawa pertumbuhan ekonomi adalah rapuh dan sukar dicapai—walaupun mengurangkan ketidaksamaan mungkin membawa faedah penting, ia mesti dibandingkan dengan rintangan ekonomi yang timbul daripada peningkatan cukai atau defisit.

Saya meragukan bahawa AI yang kuat mungkin akan mengganggu anggapan ini. Jika AI memperoleh kemampuan jauh lebih baik daripada manusia dalam menjalankan kebanyakan tugas kognitif, maka logiknya ia mungkin membawa pertumbuhan ekonomi yang sangat pantas dan kuat melalui percepatan sains, teknologi, dan kecekapan operasi. Kemampuan berulang AI untuk membina AI yang lebih baik bahkan mungkin memperkuat pertumbuhan ini lebih lanjut. Tetapi dengan sebab yang sama, AI juga mungkin berfungsi sebagai pengganti ekonomi yang lebih umum terhadap kemampuan kognitif manusia, serta mengubah ekonomi lebih pantas berbanding teknologi sebelumnya. Oleh itu, terdapat alasan untuk percaya bahawa, berbanding teknologi sebelumnya, AI mungkin menghasilkan gangguan yang jauh lebih besar dan berpotensi lebih kekal terhadap pasaran buruh. Risiko yang kita hadapi ialah akhirnya memasuki dunia di mana skala kompromi ekonomi terkunci pada tetapan pertumbuhan super dan ketidaksetaraan super, dan mungkin sukar untuk keluar daripada tetapan tersebut. Dalam dunia seperti ini, cabaran utama bukan lagi merangsang pertumbuhan, tetapi mencari cara agar setiap orang dapat berkongsi manfaatnya.

Dalam topik yang dibincangkan dalam artikel ini, ekonomi makro dan penggantian tenaga kerja yang berterusan boleh dikatakan menarik perhatian awam paling banyak dan paling banyak disalahfahami, jadi saya ingin menjelaskan dua perkara dengan sangat jelas.

Pertama-tama, kehilangan pekerjaan yang berterusan adalah tidak diingini dan berbahaya, dan kita harus berusaha sekuat tenaga untuk mengurangkan atau mencegahnya, bukan mempercepatnya. Saya telah memperingatkan tentang masalah kehilangan pekerjaan dalam temu bual dan artikel saya, kerana saya ingin memberikan peluang terbaik kepada pembuat dasar dan sektor swasta untuk beradaptasi dan menghadapinya, bukan kerana saya cuba menjadi “nabi bencana”. Sebagai sebuah syarikat, Anthropic sentiasa berusaha sebaik mungkin untuk bekerjasama dengan pelanggan, mencari kes-kes penggunaan baru yang kreatif dan sumber pendapatan baru yang membolehkan mereka melakukan lebih banyak dengan tenaga kerja yang sedia ada, bukan hanya fokus pada pengurangan kos (yang biasanya bermaksud pemecatan). Seiring kemajuan sistem-sistem ini, kami juga terus berusaha membayangkan paradigma interaksi baru yang membolehkan manusia yang terlibat dalam kolaborasi memainkan peranan yang paling aktif dalam sistem AI. Secara lebih luas, bermanfaat untuk membolehkan seluruh dunia mencuba menggunakan AI dengan sebanyak mungkin cara baru, kerana ini adalah cara masyarakat menemui konfigurasi pekerjaan potensial baru. Saya memang percaya bahawa AI akan membawa banyak peluang ekonomi baru. Saya pernah meramalkan bahawa AI akan membolehkan individu tunggal mencipta syarikat bernilai sepuluh miliar dolar, dan kita telah melihat pasukan kecil yang hanya terdiri daripada beberapa orang sahaja membina perniagaan yang menghasilkan pendapatan ratusan juta dolar. Tetapi pada masa yang sama, kita harus sedar bahawa walaupun kita telah berusaha sekuat tenaga, AI masih sangat mungkin menyebabkan pengangguran jangka panjang yang serius—yang mungkin merupakan sifat intrinsik teknologi ini serta cara ia meniru secara meluas cara manusia berfikir (catatan 4).

Selanjutnya, sebarang tindakan menangani kehilangan pekerjaan yang digerakkan oleh AI perlu menangani keperluan untuk memberikan jaminan ekonomi kepada setiap orang, serta keperluan untuk mencari makna, tujuan, dan agency. Yang terakhir ini akhirnya lebih penting, kerana ia bergantung pada soalan mendalam mengenai bagaimana masyarakat seharusnya diorganisasi, apa yang patut orang kejar, dan apa yang membentuk kehidupan yang baik. Sebenarnya, saya sangat optimis bahawa walaupun dalam dunia di mana AI unggul melebihi semua orang dalam segala aspek, manusia masih boleh menjalani kehidupan yang bermakna mendalam dan berusaha mencipta perkara-perkara yang mengagumkan dan indah (catatan 5). Namun, ini adalah masalah yang perlu diselesaikan bersama oleh seluruh masyarakat, bukan masalah yang boleh diselesaikan secara langsung oleh dasar. Tempat di mana dasar boleh berperan paling besar ialah dengan memperlambat laju pengangguran dan memberikan jaminan ekonomi kepada mereka yang mungkin terjejas, untuk memberi kita masa melakukan kerja ini.

Dengan semangat ini, beberapa langkah campur tangan politik yang mungkin membantu termasuk:

• Mengukur dan memantau. Mudah untuk menolak pengumpulan dan analisis data semata sebagai tindakan yang tidak mencukupi untuk mengatasi skala masalah, tetapi jika kita tidak dapat mengukur dengan tepat apa yang sebenarnya berlaku, kita tidak mungkin merumuskan dasar politik yang baik. Anthropic telah mengendalikan indeks ekonomi mengenai bagaimana orang menggunakan Claude selama hampir satu setengah tahun, tetapi kerajaan boleh mendapatkan jenis data yang tidak dapat kami capai, dan boleh memperluaskan statistik ekonomi mereka secara besar-besaran untuk memantau kesan AI terhadap pengangguran dengan lebih teliti.
• Langkah-langkah insentif untuk mendorong pekerjaan. Langkah-langkah insentif kebijakan yang luas untuk mendorong pekerjaan boleh membantu memperlambat atau mengurangi kehilangan pekerjaan, termasuk: polisi insurans gaji yang memberi kompensasi kepada individu yang terpaksa menerima pekerjaan berupah rendah (catatan 6), insentif cukai untuk mendorong majikan mengelakkan pemecatan, bantuan latihan tenaga kerja, atau infrastruktur yang mempercepatkan pencocokan antara majikan dan pekerja untuk mempercepat penyesuaian pasaran tenaga kerja. Walaupun butiran mengenai langkah campur tangan yang paling baik akan bergantung kepada jenis penggantian tenaga kerja yang dibawa oleh AI, kita seharusnya menerima dengan terbuka kos dan ketidakefisienan pasaran yang mungkin timbul daripada polisi ini, terutamanya kerana ia mungkin diimbangi oleh pertumbuhan produktiviti yang didorong oleh AI.
• Dokumen sokongan makroekonomi jangka panjang. Jika penggantian tenaga kerja yang digerakkan oleh AI akhirnya mencapai skala besar dan secara permanen menekan permintaan terhadap tenaga kerja, mungkin diperlukan untuk melangkah melebihi program insentif semata-mata, dengan memberikan sokongan pendapatan jangka panjang kepada sebahagian besar tenaga kerja. Mekanisme seperti pendapatan asas universal boleh didanai melalui cukai terhadap syarikat berkaitan atau peningkatan cukai keuntungan modal. Akaun modal awam menyediakan alat alternatif. Secara umum, pertumbuhan ekonomi yang cepat seharusnya mencipta asas cukai untuk kemakmuran bersama.

Dalam kebimbangan ekonomi terhadap AI, satu fokus umum yang tidak saya sebutkan ialah pusat data, khususnya potensinya untuk meningkatkan harga tenaga. Pandangan saya ialah, syarikat AI sepatutnya membayar sendiri peningkatan kadar—dan Anthropic telah berjanji untuk melakukan ini—tetapi saya percaya kebencian awam terhadap pusat data sebahagian besarnya merupakan simbol atau saluran pelepasan bagi kebimbangan ekonomi AI yang lebih luas. Penting bagi kita untuk menjalankan perbincangan sosial secara langsung mengenai isu-isu ekonomi yang lebih luas ini, serta mengemukakan penyelesaian yang meyakinkan terhadapnya secara nyata; jika tidak, ia kemungkinan besar akan muncul secara tidak langsung seperti dalam isu pusat data.

3. Mempercepat kesan positif AI

Seperti kita perlu berusaha menyeimbangkan inovasi dan keselamatan AI itu sendiri, kita juga perlu berusaha menyeimbangkan bidang-bidang yang mungkin dipercepat oleh AI, seperti biomedis, tenaga, atau sains bahan. Namun, walaupun AI itu sendiri mungkin membawa cabaran-cabaran baru yang muncul dengan sangat pantas dan kita tidak mempunyai pengalaman menanganinya, bidang-bidang lain yang dipercepat oleh AI mungkin menghadapi masalah yang berbeza: sistem pengawasan yang direka untuk langkah inovasi yang lebih perlahan tidak bersedia menghadapi banjir produk dan kemajuan baru yang dibawa oleh AI. AI juga mungkin membuat teknologi hiliran ini menjadi lebih selamat dan lebih boleh diramal, sehingga meruntuhkan anggapan keraguan yang dipegang oleh agensi pengawas seperti FDA.

Oleh itu, untuk aplikasi hulu AI—yang bertentangan dengan AI itu sendiri—saya lebih risau bahawa pihak pengawas akan memperlambat kemajuan (kerana mereka tidak mampu menghadapi perubahan yang semakin cepat), bukan risau ia gagal menangani risiko penting. Kami paling tidak ingin melihat manfaat AI dipelankan, sementara risikonya semakin mendekat, jadi penting untuk mengambil tindakan secepat mungkin terhadap isu ini.

Masalah ini dan penyelesaiannya akan muncul dengan cara yang berbeza di pelbagai bidang sains, perniagaan dan teknologi, jadi saya akan fokus pada satu bidang yang menjadi contoh: inovasi biomedikal. Ini kerana ia kemungkinan besar akan menjadi sumber keuntungan kemanusiaan terbesar AI, dan juga kerana ia merupakan bidang yang sangat kompleks dari segi pengawasan. Kami tidak pasti bagaimana AI akan mempercepatkan inovasi biomedikal, tetapi ia kelihatan sangat mungkin:

• Meningkatkan kadar peningkatan calon ubat baharu ke dalam salur pengawasan;
• Meningkatkan efek dosis ubat baharu dan memperbaiki status keselamatannya, kerana penambahbaikan yang lebih baik mungkin juga memperdalam pemahaman terhadap sifat biologi potensialnya;
• Mengembangkan kandidat ubat untuk penyakit yang sebelum ini tidak pernah berjaya dirawat;
• Cepat mencipta bentuk rawatan baharu, seperti antibodi, peptida dan rawatan sel yang telah menjadi kategori rawatan baharu dalam beberapa dekad terakhir.

Sebahagian daripada kemajuan ini akan secara semula jadi mempercepatkan jadual pengawasan tanpa perlu perubahan struktur. Dadah dengan kesan yang lebih besar boleh menyebabkan ujian klinikal yang lebih kecil dan lebih murah, serta mengaktifkan mekanisme persetujuan dipercepatkan. Namun, sistem pengawasan semasa direka untuk memberikan tinjauan tahap tinggi dan banyak peringkat ujian, berdasarkan anggapan bahawa dadah kandidat biasanya tidak berkesan, dan walaupun berkesan, biasanya mempunyai masalah keselamatan yang serius. Di FDA atau Agensi Perubatan Eropah (EMA), masa typikal seorang dadah kandidat melalui salur pengawasan ialah 7-8 tahun, sebahagiannya disebabkan anggapan pesimistik ini. Jika tiada reformasi, AI hanya akan menyebabkan sistem ini menjadi sesak atau terlebih beban.

Jelas, kita tidak ingin mengubah sesuatu dengan cara yang menyebabkan munculnya sejumlah besar obat snake-oil (slang untuk ubat palsu yang menipu) atau insiden keselamatan yang meluas. Tetapi beberapa reformasi yang relatif sederhana boleh menjadikan FDA, EMA dan agensi serupa lebih sesuai dengan percepatan sains pantas yang digerakkan oleh AI (jika keadaan ini berlaku).

Banyak langkah proses klinikal yang sebelumnya memerlukan eksperimen mahal dan perlahan kini boleh diselesaikan dengan cepat melalui simulasi atau analisis AI. Agensi pengawas sepatutnya mempertimbangkan untuk menetapkan standard mengenai syarat-syarat yang diperlukan untuk menerima kaedah-kaedah semacam ini. Ini bermakna apabila kaedah-kaedah ini berkesan, mereka boleh diadopsi dengan cepat, bukannya melalui tempoh ujian yang tidak perlu dan diperpanjang. Bidang-bidang yang mungkin tercakup termasuk:

• Pemodelan farmakodinamik dan farmakokinetik (PD/PK) berdasarkan AI;
• Prediksi toksikologi untuk mengelakkan keperluan menjalankan kajian toksikologi haiwan pelbagai spesies;
• Pilihan dos yang lebih tepat untuk mengurangkan keperluan terhadap julat dos yang besar dalam ujian;
• Mengesahkan penanda biologi melalui analisis set data besar;
• Kumpulan kawalan sintetik dalam ujian klinikal untuk mengurangkan keperluan merekrut peserta tambahan;
• Mengembangkan alternatif terminal (ini sangat penting dalam penuaan dan penyakit neurodegeneratif).

Selain contoh-contoh spesifik ini, institusi juga perlu mempertimbangkan mekanisme persetujuan yang lebih agresif dan fleksibel. Jika ramalan saya mengenai AI adalah tepat, maka akan segera muncul banyak tindakan yang muncul secara tiba-tiba (idiom, bermaksud secara tidak terduga atau mendadak) dan sangat berkesan, dan sistem pengawasan seharusnya bersedia mempertimbangkannya dengan serius, bukan dengan sikap yang terlalu curiga.

Pemercepatan biomedis seharusnya meningkatkan manfaat AI secara signifikan, tetapi perlu diperhatikan bahawa ia juga boleh membantu mengurangkan risiko AI. Reformasi persetujuan biomedis mungkin membantu pertahanan biologi, dan kemajuan biomedis yang digerakkan oleh AI juga boleh meningkatkan kesihatan mental, yang mungkin memberi kesan stabil kepada masyarakat.

4. Kebebasan Negara dan Warganya

Setiap sistem kerajaan mesti menghadapi isu kuasa negara dan batasannya. Negara mempunyai kepentingan yang sah, seringkali menentukan hayat atau kematian, dalam melindungi rakyatnya daripada ancaman dalaman dan luaran. Tetapi memberikan terlalu banyak kuasa kepadanya adalah jalan menuju tirani. Negara demokratik moden berjaya menguruskan keseimbangan ini dengan besar, tetapi walaupun pada masa terbaik, keseimbangan ini tetap mengganggu. Memelihara keseimbangan ini memerlukan banyak mekanisme undang-undang dan perlembagaan yang telah dibina selama berabad-abad—contohnya, di Amerika Syarikat ialah Amandemen Pertama, Keempat, dan Kelima, Akta Posse Comitatus, Undang-Undang Pemantauan Perisikan Asing (FISA), dan sebagainya.

AI mengancam untuk menghancurkan keseimbangan ini, sambil secara besar-besaran meningkatkan taruhannya. Tetapi jika kita bertindak cepat dan menghadapi tantangan ini, kita dapat memanfaatkan AI untuk menciptakan dunia yang memiliki jaminan kebebasan yang lebih kuat dan lebih tahan lama serta pertahanan yang lebih baik terhadap ancaman daripada sebelumnya.

Kecerdasan buatan yang kuat yang jatuh ke tangan jahat mungkin menjadi alat utama untuk diktator tirani, dan perlindungan undang-undang dan perlembagaan kita yang sedia ada belum sepenuhnya bersedia untuk melawan ancaman ini. Pada dasarnya, keuntungan besar yang dibawa oleh kecerdasan dalam kekuasaan dunia, ditambah dengan laju pesat kemajuan dalam perkembangan AI, menciptakan badai sempurna (perfect storm, ungkapan, bermaksud situasi buruk yang berlaku serentak dan menghasilkan keadaan yang sangat buruk) yang membolehkan pelaku berbahaya mengambil kuasa secara tidak sengaja.

Bahaya ini boleh mengambil pelbagai bentuk teknikal atau operasi yang spesifik, tetapi persamaannya ialah AI mungkin secara tiba-tiba memberikan kuasa yang besar sambil memutarbelitkan (routing around, slang/ibarat, bermaksud mengelakkan halangan atau mekanisme pengawasan demokratik) mekanisme pengawasan demokratik yang sedia ada. Apa yang kedengaran seperti fiksyen sains hari ini—tentera drone sepenuhnya automatik—pada masa depan mungkin akan mematuhi arahan yang tidak sah dan membenarkan kerajaan mengukuhkan kuasanya secara sepihak; manusia yang dilatih secara profesional lebih mungkin menentang arahan tidak sah ini. Sebuah AI yang fokus pada pemantauan boleh menganalisis secara besar-besaran maklumat yang tersedia secara luas dan menggunakannya untuk menyimpulkan butiran paling peribadi dalam kehidupan setiap warganegara—sebuah kemampuan teknologi yang tidak dipertimbangkan oleh undang-undang kebebasan awam semasa ini. Semua ini boleh berlaku dalam masa yang sangat singkat atau secara rahsia, oleh itu sangat penting untuk secara proaktif memperkukuh komitmen negara demokratik terhadap kebebasan dan kebebasan awam.

Berikut adalah beberapa idea dasar yang perlu kita pertimbangkan:

• Tetapkan peraturan tanggungjawab yang boleh dipercayai untuk senjata automatik sepenuhnya. Senjata automatik sepenuhnya, terutamanya sebarang sistem autonom yang mengkoordinasikan atau mengarahkan mereka, seharusnya diwajibkan untuk menanggapi mekanisme perlembagaan dan tanggungjawab komando (contohnya, perintah mahkamah, undang-undang, dan tanggungjawab terhadap pengawas manusia tinggi), bukan sekadar mematuhi arahan secara buta. Ini mungkin bermakna, sebuah kumpulan pemeriksaan undang-undang atau jabatan kehakiman yang direka dengan baik mempunyai kuasa kawalan atas “suis mati” tertentu, atau sistem itu sendiri secara dalaman dilatih untuk mencari dan menanggapi badan pengawasan yang sah, atau kedua-duanya.
• Larangan penggunaan senjata automatik sepenuhnya di dalam negara. Walaupun senjata automatik sepenuhnya mempunyai alasan keperluan yang sah untuk pertahanan terhadap lawan asing (contohnya, invasi Rusia ke Ukraine), tiada sebarang alasan untuk menggunakannya terhadap rakyat Amerika. Kemampuan tentera dalam operasi dalaman telah dibatasi sebahagiannya, tetapi secara idealnya, senjata-senjata ini juga seharusnya dilarang digunakan dalam penegakan undang-undang.
• Tutup lubang kelemahan pengumpulan masal/pedagang data. Menurut undang-undang semasa, data yang dibahagikan oleh warga Amerika dengan syarikat swasta (seperti penyedia internet) boleh dibeli dan digunakan untuk analisis masal dalam pemantauan dan penegakan undang-undang tempatan. Lubang kelemahan dalam perlindungan privasi ini sudah wujud sebelum AI muncul, tetapi AI akan sangat meningkatkan risiko dengan menjadikan analisis skala besar terhadap data sedemikian jauh lebih bermakna dan berguna berbanding sebelum ini. Lubang kelemahan ini perlu ditutup.
• Memiliki hak awam untuk mendapatkan nasihat AI apabila menghadapi tindakan kerajaan yang merugikan. Sebagai prinsip am, setiap individu atau organisasi yang menjadi sasaran tindakan kerajaan yang merugikan (seperti pengawasan atau tindakan undang-undang) harus diberi peluang untuk mendapatkan AI yang sekurang-kurangnya sekuat AI yang diizinkan digunakan oleh kerajaan dalam tindakan tertentu itu. Ini akan bermakna tidak memberikan kelebihan tidak adil kepada kerajaan, yang boleh benar-benar merosakkan hak sah rakyat. Ini boleh ditambahkan atau ditafsirkan sebagai lanjutan atau penafsiran kepada Undang-Undang Prosedur Pentadbiran, perlindungan prosedur yang adil, atau hak untuk mendapatkan perwakilan undang-undang di bawah Amandemen Keenam.

Akhirnya, perlu diperhatikan bahawa dalam hal perebutan kuasa yang digerakkan oleh AI, kerajaan bukanlah satu-satunya entiti yang perlu kita waspadai. Pada masa-masa berbeza dalam sejarah (seperti Zaman Gilded Amerika atau Syarikat Hindia Timur British), syarikat menjadi cukup kuat sehingga mereka menawan negara atau mengambil ciri-ciri quasi-negara. AI akan segera menjadi begitu kuat sehingga saya risau ia tidak boleh dipercayakan sepenuhnya kepada kerajaan atau syarikat secara selamat, dan mesti ada mekanisme pengawasan terhadap kedua-dua pihak.

Pengawasan adalah satu jawapan mengenai bagaimana mengawal syarikat (saya mempunyai pandangan saya sendiri mengenai ini di Bahagian 1), tetapi sama pentingnya, syarikat AI mesti mempunyai pembahagian kuasa dan tanggungjawab yang lebih banyak berbanding entiti swasta biasa. Amanah kepentingan jangka panjang Anthropic (sebuah badan tadbir berdiri sendiri yang bertujuan untuk mendorong syarikat memenuhi misinya) adalah satu struktur seperti itu, dan industri harus terus meneroka mekanisme yang lebih jauh lagi. Mencapai keseimbangan yang tepat—di mana kuasa syarikat dan kerajaan masing-masing dikenakan sekatan yang bermakna—adalah sangat penting.

5. Pastikan kepimpinan negara demokratik

Menganggap teknologi baru sebagai alat dasar politik luar negara, dengan matlamat “menyebarluaskan stak teknologi kita di seluruh dunia”, telah menjadi naluri yang biasa, mungkin berkembang daripada pengalaman terkini dalam industri internet dan telekomunikasi. Tetapi saya sangat teguh percaya bahawa AI adalah sesuatu yang lebih mendalam, ia menetapkan semula seluruh papan permainan, dan semua strategi geopolitik masa depan mesti dibina di sekelilingnya—seperti senjata nuklear, tetapi berpotensi memberi kesan yang lebih besar lagi.

Jika AI benar-benar akan segera menjadi "negara genius di pusat data", atau apa pun yang sedikit mirip dengannya, maka AI kemungkinan besar akan menjadi sumber utama kekuatan militer dan ekonomi mana pun. Dalam sebuah negara maya yang memiliki 100 juta genius, 10 juta boleh diterapkan pada strategi militer, 10 juta pada pembuatan pesawat tanpa awak, 10 juta pada pengembangan senjata, 10 juta pada pengumpulan dan analisis intelijen, 10 juta pada kemajuan sains umum, dan sebagainya. Sebuah negara dengan AI yang kuat menghadapi negara tanpa AI—atau bahkan negara yang tertinggal tiga tahun dalam hal AI—kesenjangan itu mungkin setara dengan pasukan Marinir Perang Dunia II menghadapi pasukan ksatria abad pertengahan.

Selain itu, jika AI yang kuat dapat mencapai bentuk penindasan otoriter yang lebih mendalam dan mungkin kekal (lihat Bahagian 4), ini menjadikan penting untuk memastikan bahawa negara paling kuat di dunia adalah negara demokratik—atau sekurang-kurangnya terdapat langkah perlindungan yang kuat terhadap penindasan yang digerakkan oleh AI. Ini juga meningkatkan keperluan mendesak untuk menghasilkan strategi geopolitik yang terfokus.

Negara-negara demokratik harus menciptakan aliansi global yang berpusat pada pembangunan AI berdasarkan nilai-nilai bersama, secara berulang mencuba untuk menarik wilayah-wilayah lain di dunia, sehingga menjadi semakin menarik untuk menyertai aliansi ini dan semakin kurang menarik untuk berada di luarannya. Aliansi ini harus menjadi pengintegrasian antarbangsa yang terkoordinasi terhadap idea-idea dasar dasar kebijakan AI yang dibincangkan dalam Bahagian 1 hingga 4, ditambah dengan usaha untuk mengunci rantai pasokan penting yang diperlukan untuk membangun AI melalui perkongsian di dalam aliansi dan penolakan terhadap pemberian kepada pihak luar. Beberapa prinsip dan objektif operasi mungkin termasuk:

Mengurus rantaian bekalan AI. Ahli perikatan yang boleh dipercayai harus bebas berkongsi cip dan peralatan pembuatan semikonduktor (SME) antara satu sama lain, sambil bekerjasama untuk menolak pihak lawan daripada memperolehnya. Kawalan AS terhadap eksport cip terkini dan SME ke China adalah salah satu sebab utama mengapa AS kekal unggul secara keseluruhan dalam bidang AI, dan dasar-dasar ini perlu diperluaskan, dipertegas, dan dikoordinasikan dengan negara-negara sekutu yang sefaham. Undang-undang yang sedang dipertimbangkan seperti MATCH dan OVERWATCH adalah permulaan yang baik, dan negara-negara demokratik sekutu perlu mempertimbangkan mengambil langkah serupa.

• Koordinasi untuk mengatasi risiko AI. Jika dikoordinasikan secara antarbangsa, dasar-dasar kebijakan yang digambarkan dalam Bahagian 1 untuk mengatasi risiko biologi, keselamatan siber, dan autonomi akan menjadi lebih berkesan (serta mengurangkan beban kepada industri). Ini bermaksud syarikat-syarikat dapat mematuhi piawaian yang saling selaras, dan pihak pengawas juga dapat saling belajar bagaimana mengukur dan mengurangkan risiko-risiko ini dengan cara terbaik. Agensi penegakan undang-undang dan perisikan juga seharusnya bekerjasama lebih rapat untuk melacak dan menghalang ancaman penyalahgunaan, seperti usaha teroris untuk memanfaatkan AI dalam mencipta senjata biologi.
• Kongsi keuntungan AI. Dasar perdagangan dan pengawasan boleh digunakan untuk mempercepat penyebaran keuntungan ekonomi AI di dalam perikatan, serta berkongsi pelajaran daripada pengalaman dalam mempercepat inovasi. Koordinasi kaedah pelaksanaan yang bermanfaat boleh membawa manfaat AI kepada negara-negara membangun. Sebagai contoh, penyelarasan sistem persetujuan perubatan boleh membolehkan ubat-ubatan berkuasa AI diuji dan diluluskan dengan lebih cepat dan lebih baik (seperti yang dinyatakan dalam Bahagian 3 di atas).
• Pertahanan bersama. Negara-negara dalam aliansi harus bekerjasama menggunakan AI untuk pertahanan diri dan melawan AI musuh. Aliansi harus secara kolektif memastikan produksi yang mencukupi dalam pertahanan maya yang dipimpin AI, drone yang digerakkan AI, pembuatan yang digerakkan AI, kekuatan komputasi AI rahsia, penyelidikan dan pembangunan yang digerakkan AI, serta pengumpulan maklumat yang digerakkan AI.
• Tolak penindasan yang dikuasai AI. Ahli gabungan mesti menolak tirani berasaskan AI yang tinggi teknologi dan ekstrem, yang saya peringatkan dalam《The Adolescence of Technology》, dan mesti memiliki jaminan keselamatan yang serupa dengan yang saya huraikan di Bahagian 4 di atas.
• Kerjasama makroekonomi. Krisis pekerjaan atau kestabilan pekerjaan, seperti sebarang krisis ekonomi lain, bersifat menular antarabangsa. Oleh itu, negara-negara memiliki kepentingan bersama untuk bekerjasama dan mengkoordinasikan sokongan makroekonomi dan dasar penstabilan (seperti yang dinyatakan dalam Bahagian 2) untuk menangkal sebarang kesan terhadap pekerjaan.

Matlamatnya adalah menjadikan keanggotaan perikatan ini semenarik mungkin—dan menjadikan kos untuk tidak menyertai perikatan itu jelas kelihatan. Perikatan ini akan berasaskan koordinasi antara negara berdaulat, di mana setiap negara mengekalkan kuasa penuh atas urusan dalaman mereka. Ia boleh berkembang secara berperingkat, bermula dengan negara demokratik yang sejalan secara ideologi (yang secara semula jadi mudah untuk menyertai), dan secara beransur-ansur menyambut negara-negara yang kurang selaras secara semula jadi tetapi bersedia memenuhi piawaian perikatan sebagai imbalan kepada manfaat besar keanggotaannya. Secara ideal, seluruh dunia akhirnya akan menyertai. Tetapi walaupun ini tidak mungkin, membina perikatan ini akan meletakkan negara-negara demokratik dalam kedudukan paling kuat untuk mengawal dan mengatasi rejim-rejim yang terobsesi dengan kerajaan represif.

Jendela peluang

Kemajuan eksponen AI membawa kegentingan dan kecepatan perubahan yang biasanya tidak disediakan oleh proses pembuatan dasar politik. Tetapi ia juga menciptakan jendela peluang yang unik. Bukti-bukti risiko AI yang jelas dan nyata, pengalaman awal terhadap potensinya dalam menciptakan dan merusak nilai ekonomi, serta reaksi kuat masyarakat terhadap cara pengurusan AI yang tanpa batas saling bersatu, membentuk situasi di mana pembuat dasar politik sangat terbuka terhadap tindakan proaktif. Pohon dan hutan sedang bangun.

Menganggap ini sebagai masalah hubungan awam telah menjadi popular di kalangan industri AI: bahawa AI memerlukan “pemasaran yang lebih baik”. Saya sepenuhnya menolak kerangka ini. Orang-orang bimbang tentang AI kerana mereka secara tepat mengesan bahawa risikonya adalah nyata, bukan kerana CEO AI tidak bersikap “Panglossian”istilah sastera/adjektif yang bermaksud terlalu optimis secara buta. Saya percaya, sebagai pemimpin AI, tanggungjawab saya adalah terus menjaga kejelasan mengenai risiko-risiko ini, dan kebimbangan awam terhadap kejelasan ini merupakan bentuk pertanggungjawaban demokratik yang berfungsi seperti seharusnya. Cabaran utama ialah mengarahkan kebimbangan ini kepada penyelesaian yang membina, tanpa membiarkannya berubah menjadi kemarahan dan keganasan yang tidak terlihat.

Saya optimis bahawa penyelesaian dapat ditemui, kerana banyak isu—daripada menangani pengangguran hingga pengujian sebelum pelancaran model, daripada larangan eksport cip hingga isu dasar AI lain seperti penggunaan tenaga—memiliki daya tarikan akal sihat di seluruh spektrum politik. Terdapat dunia masa depan yang diidamkan tetapi realistik, di mana sebuah aliansi luas tanpa parti, yang didorong oleh kesedaran langsung terhadap cabaran yang dibawa oleh AI, akan meluluskan dasar yang waras dan proaktif jauh lebih pantas daripada biasa. Semakin awal kita melakukan ini, semakin awal kita dapat berkongsi manfaat AI yang luar biasa.

Saya ingin mengucapkan terima kasih kepada Allan Dafoe, Mariano-Florentino Cuéllar, Richard Fontaine, Buddy Shah, Vas Narasimhan, Matt Yglesias, Nick Beckstead, Jason Matheny, Brad Carson, dan banyak pegawai Anthropic atas komen dan maklum balas mereka terhadap draf artikel ini.

Footnote

Saya membincangkan risiko biologi dan risiko autonomi, serta perkara lain, dalam artikel saya “The Adolescence of Technology”. Institut Anthropic juga telah mengumumkan beberapa data dalaman awal mengenai kemungkinan peningkatan diri rekursif dalam “When AI Builds Itself”, iaitu model mampu membina model yang lebih baik secara autonom.

Fenomena ini bukan sekadar teori: kami telah mengamati hal ini berulang kali dalam kerangka tata kelola sukarela kami sendiri (seperti dasar penskalaan bertanggung jawab kami/Responsible Scaling Policy). Jika kami menetapkan senarai persyaratan keselamatan yang tetap atau kaku untuk model AI masa depan, satu hasil yang sangat mungkin ialah persyaratan yang ternyata tidak relevan akhirnya menghabiskan 95% usaha kepatuhan kami, sambil pada masa yang sama kami mendapati beberapa sumber risiko terbesar sama sekali tidak dijangka dalam senarai kami. Kerangka sukarela boleh diubah dan disesuaikan, tetapi ini jauh lebih sukar dilakukan dalam undang-undang. Usaha saya untuk mengatasi dilema ini dapat dilihat dalam dua surat terbuka saya mengenai SB 1047, undang-undang California tahun 2024 yang cuba mengatasi risiko bencana, yang perasaan saya terhadapnya sangat kompleks kerana sebab-sebab yang disebutkan di atas.

Sebagai contoh, risiko biologi yang benar-benar serius mungkin lebih sukar dikelola berbanding risiko cyber, kerana penyerang mempunyai keuntungan besar berbanding pihak pertahanan, dan keparahan bencana mungkin jauh lebih besar.

Rujuk kepada "The Adolescence of Technology" untuk analisis yang lebih terperinci mengenai mengapa logik yang menyebabkan pemulihan pasaran tenaga kerja dengan cepat dan tanpa penggantian tenaga kerja yang kekal dalam teknologi lain mungkin tidak berlaku pada AI, terutamanya mengapa mekanisme penyesuaian biasa seperti paradoks Jevons atau keunggulan komparatif mungkin tertindas oleh kelajuan teknologi.

Sebagai contoh, orang masih mendedikasikan seumur hidup mereka untuk bermain catur atau go, atau mendaki gunung, dan tetap dihormati kerana aktiviti-aktiviti ini, walaupun mesin mampu melakukan semua ini dengan lebih baik.

Ini sebenarnya memberikan insentif tambahan kepada orang-orang untuk berpindah dan memulai latihan untuk tangga kerjaya baru, walaupun mungkin menyakitkan dalam jangka pendek, jika perbezaan antara gaji baru dan lama dibayar untuk mengimbanginya.

Untuk maklumat lanjut mengenai topik ini, lihat “Pubertas Teknologi”. (Artikel ini pertama kali diterbitkan di aplikasi Titanium Media, penulis |硅谷Tech_news, penyunting | 林深)