CEO Anthropic Mengusulkan Kerangka Kebijakan AI di Tengah Pertumbuhan Teknologi yang Cepat

Baru-baru ini, CEO raksasa AI terkemuka Anthropic, Dario Amodei, merilis artikel panjang beribu kata yang menjadi viral di seluruh internet: "Kebijakan di Era Indeks Kecerdasan Buatan". Artikel ini membahas lima bidang kebijakan secara mendetail, menyajikan pengamatan pribadinya serta memberikan rekomendasi sistematis mulai dari regulasi hingga geopolitik.

(Link asli:https://darioamodei.com/post/policy-on-the-ai-exponential, seluruh teks versi Mandarin tercantum di bawah ini.)

Harus diakui, di kalangan Silicon Valley yang penuh dengan omong kosong “mengubah dunia” dan hanya bisa janji manis, Dario adalah aliran langka yang segar.

Dia sangat jujur, bahkan agak "mengorbankan kerabat sendiri" dalam membongkar topeng pembenaran yang dipakai dunia teknologi.

Orang-orang dalam industri sering mengaitkan kekhawatiran publik terhadap AI dengan “public relations yang buruk”, tetapi Dario menanggapi tanpa basa-basi: orang-orang khawatir karena risikonya nyata, bukan masalah public relations sama sekali.

Dia juga secara langsung mengakui kebenaran yang sangat dihindari oleh raksasa teknologi: AI sangat mungkin memicu gelombang pengangguran serius dan berkepanjangan, membuat ekonomi terjebak dalam keadaan ekstrem "pertumbuhan super dan ketidaksetaraan super".

Namun, jika kita mengikuti obat yang diberikan oleh "pelapor" di garis depan industri ini, kita akan menemukan sebuah paradoks struktural yang memikat:

Eksekutif yang penuh tanggung jawab ini, sambil menyerukan agar industri ini dibatasi, secara objektif sedang berupaya mendorong peralihan kekuasaan yang belum pernah terjadi sebelumnya. Para elit Silicon Valley sedang menulis ulang hukum masyarakat manusia.

Menghadapi AI yang berkembang dengan kecepatan kilat, Dario menjadi cemas dan menyarankan pemerintah segera mengatur AI seperti mengatur pesawat terbang dan obat-obatan.

Misalnya, buat mekanisme serupa dengan Federal Aviation Administration (FAA) yang mewajibkan model canggih dengan daya komputasi memadai untuk lulus uji keamanan wajib oleh pihak ketiga, jika tidak, tidak boleh dirilis.

The starting point is undoubtedly for human safety.

Namun, dari sudut pandang hukum objektif evolusi bisnis, industri penerbangan menjadi oligopoli yang sangat terkonsentrasi karena biaya kepatuhan yang sangat tinggi.

Begitu industri AI benar-benar "FAA-ter", biaya pemeriksaan tinggi, pengujian tim merah berkala, dan pengujian penetrasi akan langsung berubah menjadi "dinding keluhan" yang tak tertembus.

Regulasi, terkadang merupakan parit perlindungan bagi pemimpin pasar. Startup dan komunitas open source sama sekali tidak mampu menanggungnya.

Hasil akhirnya adalah: para raksasa, atas dasar “cinta besar” terhadap keamanan seluruh umat manusia, secara objektif memanfaatkan kekuasaan publik untuk melakukan pembersihan hukum, dan menetapkan posisi oligarki mereka ke dalam hukum.

Logika halus yang sama juga ada di bidang farmasi dan geopolitik.

Dario menyerukan agar lembaga tradisional seperti FDA melonggarkan persetujuan untuk pengembangan obat berbasis AI, menerima simulasi AI sebagai pengganti uji klinis yang panjang. Niatnya baik, tetapi ini jelas membuka jalan bagi raksasa AI dengan kekuatan komputasi terkuat untuk menyerang industri farmasi senilai triliunan dolar dengan cara yang sangat dominan.

Sementara itu, ia membayangkan sebuah "Aliansi AI Negara Demokratis" yang berbagi chip di dalamnya dan menjaga ketat terhadap pihak luar.

Jika konsorsium ini dibentuk, siapa yang menyediakan teknologi? Siapa yang dikecualikan? Siapa yang dianggap musuh? Siapa yang mendapat keuntungan dalam seluruh proses ini?

Untuk mempertahankan kesenjangan teknologi, raksasa teknologi tidak hanya menjadi penyedia teknologi, tetapi juga secara alami menjadi pembuat aturan baru di era ini, bahkan mungkin berubah menjadi "kompleks militer digital" baru yang menerima anggaran pertahanan besar.

Jika kita mengikuti jejak-jejak halus dalam sejarah, semua ini sebenarnya sudah ada tanda-tandanya.

Secara historis, ketika sebuah perusahaan menjadi cukup besar, ia sering kali "menangkap negara atau mengadopsi ciri-ciri quasi-negara." Dario sendiri menyebutkan analogi yang sangat tepat dalam teks ini: Perusahaan Hindia Timur Inggris.

Perusahaan Hindia Timur awalnya hanyalah sekelompok pedagang rempah-rempah, tetapi untuk melindungi rute perdagangan dan mengelola kepentingan lintas batas yang luas, mereka secara perlahan mulai merekrut tentara, mendirikan pengadilan, dan menerbitkan mata uang, hingga akhirnya menjadi "negara quasi" yang memerintah anak benua tersebut.

Hari ini, raksasa Silicon Valley sedang mengikuti jalur yang persis sama.

Hanya saja, media pada masa itu adalah kapal perang dan senjata api, sedangkan hari ini adalah daya komputasi.

Dario memperkirakan masa depan yang menakjubkan: jika AI terus berkembang secara eksponensial, ia akan menjadi "negara jenius di pusat data": AI seperti kumpulan jenius di semua bidang, memiliki AI yang kuat sama dengan memiliki sejumlah jenius sebanyak negara yang berpihak padamu. Jadi, ketika sebuah pasukan dengan AI kuat menghadapi pasukan tanpa AI, perbedaannya seperti "Pasukan Marinir Perang Dunia II melawan ksatria abad pertengahan".

Ketika raksasa teknologi menguasai teknologi super yang dapat memicu kehancuran keuangan, memproduksi senjata biologis, atau bahkan menentukan tatanan geopolitik global, lembaga negara tradisional mulai kesulitan mengendalikannya secara efektif.

Raksasa-raksasa tersebut telah berusaha membuat standar keamanan sendiri, menguji model sendiri, bahkan merancang skema aliansi internasional sendiri.

Ini bukan karena mereka sekelompok pengejar kekuasaan jahat, tetapi karena perkembangan teknologi mencapai skala ini, kekosongan kekuasaan dan kompleksitas manusia memaksa mereka secara alami mengikuti jalan yang serupa.

Di era di mana daya komputasi menentukan segalanya, kekuatan individu tampaknya terkompresi tanpa batas.

Dario tanpa ampun mengungkap kebenarannya: AI yang menggantikan bukan hanya tenaga kerja fisik, tetapi kemampuan kognitif itu sendiri yang menjadi kebanggaan manusia.

Ketika logika dan perencanaan solusi yang telah kita latih keras di tempat kerja tampak seperti mainan di hadapan "negara yang mengumpulkan semua jenius" bernama AI, bagaimana kita harus bersikap?

Solusi yang diberikan oleh para raksasa adalah dukungan makroekonomi seperti Universal Basic Income (UBI)—negara akan memberi uang kepada Anda, bahkan jika Anda tidak bekerja.

Tapi mangkuk nasi tetap aman, siapa yang akan mengisi lubang besar di hati itu?

Mungkin seperti metafora Dario dalam teks tersebut: meskipun mesin sudah jauh mengungguli manusia dalam catur dan go, orang-orang masih akan mendedikasikan seumur hidup mereka untuk papan catur, dan tetap dihormati.

Karena mesin menghitung "solusi optimal" yang dingin, sedangkan manusia mengejar "pengalaman itu sendiri" yang penuh生机.

Karakteristik yang tidak dapat distandarkan akan menjadi sumber daya paling langka di masa depan.

Dalam salah satu subplot The Lord of the Rings, dua Hobbit berusaha membangunkan Treebeard—seorang pohon sadar yang penuh kebijaksanaan tetapi bergerak sangat lambat—untuk melindungi hutan nya dari pasukan yang sedang menebang hutan tersebut. Masalahnya adalah, kecepatan gerak Treebeard sangat berbeda dengan para Hobbit. Ia saja membutuhkan sehari penuh hanya untuk menyapa pohon lain, sehingga hampir mustahil membuatnya dan rekan-rekannya bertindak cukup cepat.

Interseksi antara kecerdasan buatan (AI) dan sistem politik kita terasa seperti Hobbit dan Treebeard. AI berkembang dengan kecepatan luar biasa (俚语/习语，意为极快的速度)—dalam hanya empat tahun, model AI telah berkembang dari hampir tidak bisa menulis satu baris kode yang koheren hingga menulis sebagian besar kode di perusahaan AI utama. Kemajuan serupa juga terjadi di bidang biologi, fisika, matematika, keuangan, hukum, terjemahan, dan banyak bidang lainnya. Hukum penskalaan (scaling laws) AI, yang memprediksi bahwa kemampuan kognitif umum akan meningkat secara eksponensial seiring peningkatan daya komputasi, kini didukung oleh bukti empiris lebih dari sepuluh tahun. Jika hukum penskalaan ini berlanjut hanya satu atau dua tahun lagi, kita kemungkinan besar akan mendapatkan apa yang saya sebut "AI Kuat (Powerful AI)", atau "negara jenius di pusat data".

Sebaliknya, kebijakan—terutama undang-undang—berkembang sangat lambat. Biasanya ini memiliki alasan yang kuat: pemerintah memiliki kekuasaan yang sangat besar, dan biasanya terbaik untuk tidak menjalankan kekuasaan ini secara sembarangan. Namun, ketidaksesuaian skala waktu ini tetap sangat menyakitkan: dalam waktu beberapa tahun yang mungkin diperlukan bagi Kongres untuk bertindak, AI bisa berubah dari mainan menarik menjadi sebuah negara nyata para jenius.

Dalam beberapa tahun terakhir, sejak AI menjadi teknologi bisnis utama, kita yang ingin menanganinya secara bertanggung jawab menghadapi dilema. Kita dapat melihat dengan jelas arah pertumbuhan eksponensial ini: kita sangat meragukan bahwa dalam beberapa tahun ke depan, AI akan menjadi salah satu dari sedikit teknologi yang secara mendasar membentuk ulang seluruh lanskap kebijakan, sebagaimana senjata nuklir membentuk ulang geopolitik, atau revolusi industri membentuk ulang setiap masalah ekonomi dan sosial. Namun, bagi mereka yang hanya memperhatikan apa yang bisa dilakukan AI saat ini, ia tampak seperti teknologi yang sangat biasa—mungkin sebanding dengan aplikasi konsumen terbaru atau cryptocurrency. Sangat sulit meyakinkan sebagian besar pembuat kebijakan dan perusahaan bahwa ada sesuatu yang bermakna selain sikap laissez faire. Secara adil, memang dampak radikal AI belum terwujud, dan kita tidak pasti bagaimana bentuknya nanti, sehingga bahkan dengan keinginan untuk bertindak, sulit merancang kebijakan yang tepat.

Mengingat batasan yang diberlakukan oleh situasi ini, banyak advokat keamanan (termasuk Anthropic) hingga saat ini fokus pada mendorong tindakan kebijakan yang dapat mempertahankan pilihan, mempersiapkan respons cepat di masa depan (tee up, slang/idiom, berarti mempersiapkan atau meletakkan dasar), atau membantu dunia memperoleh pemahaman yang lebih baik tentang hal-hal yang akan segera terjadi (coming down the pike, slang/idiom, berarti hal-hal yang akan segera terjadi atau muncul)—seperti undang-undang transparansi, pembatasan ekspor chip, dan pengumpulan data tentang dampak AI terhadap tenaga kerja. Ini belum cukup, tetapi terasa seperti segala sesuatu yang bisa dilakukan saat ini.

Namun, dalam beberapa bulan terakhir, bukti tentang kekuatan luar biasa AI dan risikonya telah menjadi tak terbantahkan. Mungkin contoh paling representatif adalah Claude Mythos Preview, serta temuan bahwa model mutakhir (frontier models) menimbulkan risiko nyata terhadap keamanan siber, menciptakan kemungkinan merusak sektor keuangan, infrastruktur kritis, dan keamanan nasional. Mythos Preview benar-benar mengacaukan (scrambled, slang/extended meaning: membuat kacau, mengacaukan) lanskap keamanan siber global. Namun makna yang lebih luas adalah, ia secara tak terbantahkan membuktikan bahwa model AI kini telah menjadi alat yang memiliki signifikansi global dan strategis. Risiko siber yang dibawa oleh model tingkat Mythos tidak akan menjadi risiko terakhir yang harus kita hadapi. Saya percaya risiko biologis kemungkinan besar akan segera menyusul, diikuti oleh risiko otonomi AI yang serius (catatan 1).

Saat ini, kita secara global perlu menghidupkan kembali lembaga kebijakan yang lambat dan rapuh untuk menghadapi risiko dan peluang yang akan tumbuh secara eksponensial mulai sekarang. Banyak pembuat kebijakan menunjukkan sikap yang semakin terbuka untuk bertindak, dan menggembirakan melihat rekan-rekan kita juga berubah pandangan untuk mendukung posisi yang sama yang telah kita advokasi selama beberapa tahun terakhir (idiom, berarti mengubah pandangan untuk setuju). Ini adalah hal yang baik, tetapi saya khawatir tindakan awal ini setidaknya tertinggal satu tahun dibandingkan dengan kemajuan cepat AI. Artikel ini berusaha menutup kesenjangan ini: menjelaskan di mana pertumbuhan eksponensial saat ini berada, serta tindakan kolektif yang diperlukan untuk menghadapi momen kritis ini (idiom, berarti merespons tantangan atau momen penting saat ini).

Saya akan fokus pada lima bidang kebijakan jangka panjang yang perlu direkonseptualisasi dalam dunia AI: regulasi dan keamanan publik, kebijakan makroekonomi dan perpajakan, inovasi ilmiah, keseimbangan kekuasaan antara negara dan masyarakat, serta geopolitik. Saya akan membahasnya terutama dari sudut pandang kebijakan Amerika Serikat, karena Anthropic adalah perusahaan Amerika, tetapi sebagian besar saran yang saya ajukan juga relevan untuk wilayah lain di dunia.

Seiring dengan artikel ini, Anthropic akan merilis usulan undang-undang tentang pengujian model canggih, serta kerangka kebijakan mengenai kehilangan pekerjaan, dan kami berniat memberikan dukungan keuangan yang signifikan untuk ini. Kami berencana melakukan lebih banyak hal di masa depan, tetapi kami memandang ini sebagai langkah pertama yang menunjukkan keseriusan kami.

1. Regulasi dan Keamanan Publik

Setiap teknologi atau produk baru memiliki penggunaan bermanfaat dan berbahaya, sehingga menciptakan dilema antara inovasi dan keamanan. Mengatur produk dapat mengurangi kemungkinan kerusakan yang ditimbulkannya dan memainkan peran penting dalam meningkatkan kualitas hidup orang di seluruh dunia, tetapi juga dapat secara langsung mengurangi manfaatnya dan secara tidak langsung menekan inovasi. Ada juga pandangan Hayekian bahwa regulator biasanya kekurangan informasi yang diperlukan untuk membuat keputusan yang tepat mengenai trade-off ekonomi yang kompleks, sehingga regulasi sering kali tidak efektif dan rumit. Konsep terkait adalah dilema Collingridge, yang menyatakan bahwa dampak suatu teknologi biasanya sulit diprediksi hingga terlambat untuk mengelolanya dengan mudah.

Pada 2023-2024, dinamika-dinamika ini tampak sangat menonjol di bidang AI (idiom, berarti tampak menonjol, menarik perhatian, atau terasa menakutkan). Bagi Anthropic, jelas bahwa AI di masa depan mungkin memiliki kemampuan untuk memproduksi senjata biologis yang dapat mengancam jutaan orang, atau perilaku otonomnya yang tidak tepat dalam keadaan ekstrem bahkan dapat mengancam manusia itu sendiri. Yang kurang jelas adalah bentuk pasti bagaimana risiko tersebut akan muncul, bagaimana cara terbaik untuk menguji dan menguranginya, serta bagaimana mereka akan berkembang dalam praktiknya (idiom, berarti berkembang, menghasilkan hasil). Oleh karena itu, undang-undang yang dirancang sebelumnya berisiko tinggi menjadi tidak efektif—menciptakan persyaratan kepatuhan yang tidak bermakna atau bernilai rendah, sambil melewatkan sumber paling kritis dari risiko nyata (Catatan 2).

Pada akhirnya, kami menyimpulkan bahwa pendekatan yang tepat pada saat itu adalah transparansi. Pengembang model AI harus mengungkapkan prosedur keamanan mereka serta tes yang mereka jalankan pada model tersebut, dan melaporkan setiap insiden keamanan penting, agar publik dan komunitas ilmiah dapat memahami risiko-risiko ini dengan lebih baik saat muncul. Ketika dan jika risiko menjadi lebih jelas dan bentuknya lebih terdefinisi, bukti yang diperoleh melalui transparansi dapat digunakan untuk merancang undang-undang cerdas yang secara tepat menargetkan risiko-risiko paling mengkhawatirkan. Oleh karena itu, pada tahun 2025, Anthropic mendukung undang-undang transparansi, membantu mengesahkan SB 53 di California, RAISE di New York, dan SB 315 di Illinois (yang disahkan pada awal 2026), serta mendorong penerapan standar transparansi di tingkat federal.

Namun, risiko saat ini telah jelas datang. Saatnya melampaui transparansi dan menerapkan regulasi yang lebih serius dan mengikat terhadap AI. Saya berpendapat bahwa, setidaknya pada tahap pertumbuhan eksponensial saat ini, analogi terbaik adalah mobil, pesawat terbang, atau obat-obatan—teknologi kuat yang tak terpisahkan dari ekonomi modern, tetapi jika dirancang atau dioperasikan dengan salah, mampu menyebabkan banyak kematian. Oleh karena itu, saya percaya kita harus membuat kerangka regulasi AI berdasarkan contoh lembaga seperti Federal Aviation Administration (FAA). Model AI mutakhir seperti pesawat terbang seharusnya diwajibkan menjalani pengujian teknis dan audit, dan jika tidak memenuhi standar keamanan tinggi, rilisnya harus dihentikan atau ditarik, dianggap sebagai ancaman terhadap keselamatan publik. Saya sangat menghargai perintah eksekutif pemerintah Trump yang secara bertahap bergerak menuju peran pemerintah yang lebih besar dalam bidang AI, meskipun proposal Anthropic menyarankan tindakan yang lebih lanjut. Proposal kami mencakup elemen-elemen berikut:

• Model yang melebihi ambang daya komputasi tertentu harus menjalani pengujian paksa oleh pihak ketiga yang memenuhi syarat untuk menilai tingkat risiko mereka di empat bidang spesifik: keamanan siber, senjata biologis, kehilangan kendali atas sistem AI, serta pengembangan otomatis yang dapat mempercepat risiko-risiko lainnya.
• Jika berdasarkan penilaian pihak ketiga dianggap bahwa model tersebut menimbulkan risiko yang tidak dapat diterima, pemerintah harus memiliki wewenang untuk mencegah atau menghalangi peluncuran model tersebut. Kewenangan ini harus dibatasi hanya dalam empat risiko spesifik yang disebutkan di atas, dan harus ada langkah-langkah perlindungan terhadap bias politik atau keputusan sewenang-wenang.
• Penilaian pihak ketiga dapat dilakukan oleh lembaga pemerintah (serupa dengan FAA) atau sekelompok organisasi swasta yang diberi wewenang dan diaudit oleh pemerintah untuk menilai model berdasarkan beberapa standar (pendekatan “pasar regulasi”).
• Perusahaan AI yang mengembangkan model AI canggih harus memiliki standar keamanan yang kuat untuk melindungi bobot modelnya, harus melakukan pengujian red teaming dan penetration testing secara berkala, dan harus bekerja sama dengan pemerintah untuk mempertahankan diri dari pelaku ancaman utama.
• Insiden keamanan di empat bidang kunci ini harus dilaporkan secara tepat waktu.

Mungkin suatu hari, mungkin segera, ketika sistem AI paling kuat tampak tidak lagi seperti pesawat atau mobil, tetapi lebih mirip bahan nuklir yang dapat diwujudkan sebagai senjata—ini menjadi ancaman bagi manusia, bukan hanya “sekadar” ancaman terhadap keamanan publik, kita perlu melangkah lebih jauh. Jika hal ini terjadi, kita mungkin perlu mengambil langkah regulasi yang lebih radikal daripada yang telah saya sebutkan di atas (catatan 3). Namun, sebagaimana sulitnya pada tahun 2024 untuk mengidentifikasi dan menerapkan langkah-langkah yang saya sarankan sekarang, saya berpendapat kita tidak boleh terlalu terburu-buru (idiom, berarti bertindak terlalu cepat atau terlalu maju). Kita harus merancang kebijakan untuk menghadapi bahaya yang sedang muncul saat ini, sekaligus meletakkan dasar agar dapat lebih cepat memperkuat respons kita ketika bahaya baru muncul.

2. Kebijakan makroekonomi dan perpajakan

Selama ini, pemerintah berbagai negara telah menghadapi tantangan bagaimana mendorong pertumbuhan ekonomi sekaligus menyediakan layanan publik penting dan memastikan perlindungan bagi kelompok paling rentan. Salah satu asumsi penting (dan secara umum benar) dalam perdebatan ini adalah bahwa pertumbuhan ekonomi rapuh dan sulit dicapai—meskipun mengurangi ketimpangan dapat membawa manfaat signifikan, hal itu harus diimbangi dengan hambatan ekonomi yang ditimbulkan oleh peningkatan pajak atau defisit.

Saya menduga bahwa AI yang kuat dapat mengganggu asumsi ini. Jika AI memperoleh kemampuan jauh lebih unggul daripada manusia dalam menjalankan sebagian besar tugas kognitif, maka logis jika ia dapat membawa pertumbuhan ekonomi yang sangat cepat dan kuat melalui percepatan ilmu pengetahuan, teknologi, dan efisiensi operasional. Kemampuan iteratif AI untuk membangun AI yang lebih baik bahkan dapat semakin memperkuat pertumbuhan ini. Namun, karena alasan yang sama, AI juga dapat berfungsi sebagai pengganti ekonomi yang lebih umum terhadap kemampuan kognitif manusia, sekaligus mengubah ekonomi lebih cepat daripada teknologi sebelumnya. Oleh karena itu, ada alasan untuk percaya bahwa dibandingkan teknologi sebelumnya, AI dapat menyebabkan gangguan yang jauh lebih besar—dan berpotensi lebih tahan lama—terhadap pasar tenaga kerja. Risiko yang kita hadapi adalah akhirnya memasuki dunia di mana jarum timbangan ekonomi terjebak pada pengaturan pertumbuhan super dan ketidaksetaraan super, dan mungkin sulit untuk keluar dari pengaturan tersebut. Di dunia seperti itu, tantangan utama bukan lagi mendorong pertumbuhan, melainkan menemukan cara agar setiap orang dapat menikmati manfaatnya.

Dalam topik yang dibahas dalam artikel ini, makroekonomi dan substitusi tenaga kerja yang berkelanjutan dapat dikatakan sebagai topik yang menarik perhatian publik paling banyak dan paling banyak disalahpahami, jadi saya ingin menjelaskan dua hal ini dengan sangat jelas.

Pertama-tama, kehilangan pekerjaan yang berkelanjutan tidak diinginkan dan berbahaya, dan kita harus melakukan segala upaya untuk meminimalkan atau mencegahnya, bukan memperburuknya. Saya telah memperingatkan tentang masalah kehilangan pekerjaan dalam wawancara dan artikel saya, karena saya ingin para pembuat kebijakan dan sektor swasta memiliki peluang terbaik untuk beradaptasi dan merespons, bukan karena saya berusaha menjadi “nabi bencana”. Sebagai perusahaan, Anthropic selalu berusaha semaksimal mungkin untuk bekerja sama dengan klien, mencari kasus penggunaan baru yang kreatif dan sumber pendapatan baru yang memungkinkan mereka melakukan lebih banyak dengan tenaga kerja yang ada, daripada hanya fokus pada penghematan biaya (yang biasanya berarti pemutusan hubungan kerja). Seiring kemajuan sistem-sistem ini, kami juga terus berupaya membayangkan paradigma interaksi baru yang memungkinkan manusia yang terlibat dalam kolaborasi untuk memainkan peran yang semakin aktif dalam sistem AI. Secara lebih luas, sangat berharga jika seluruh dunia mencoba menggunakan AI dengan sebanyak mungkin cara baru, karena ini adalah cara bagi masyarakat untuk menemukan konfigurasi pekerjaan potensial baru. Saya memang percaya bahwa AI akan membawa banyak peluang ekonomi baru. Saya pernah memprediksi bahwa AI akan memungkinkan satu orang saja untuk mendirikan perusahaan bernilai miliaran dolar, dan kita telah melihat tim yang hanya terdiri dari beberapa orang saja telah membangun bisnis dengan pendapatan ratusan juta dolar. Namun, pada saat yang sama, kita harus menyadari bahwa meskipun kita telah melakukan semua upaya, AI tetap sangat mungkin menyebabkan pengangguran jangka panjang yang serius—ini mungkin merupakan sifat intrinsik teknologi tersebut serta kemampuannya untuk mereplikasi cara manusia berpikir secara luas (catatan 4).

Selanjutnya, setiap upaya untuk mengatasi masalah kehilangan pekerjaan yang didorong oleh AI harus menangani kebutuhan akan jaminan ekonomi bagi setiap orang, sekaligus kebutuhan manusia untuk menemukan makna, tujuan, dan agensi. Yang terakhir pada akhirnya lebih penting, karena bergantung pada pertanyaan-pertanyaan mendalam tentang bagaimana masyarakat seharusnya diorganisasi, apa yang seharusnya dikejar oleh manusia, dan apa yang mendefinisikan kehidupan yang baik. Sebenarnya, saya sangat optimis bahwa bahkan di dunia di mana AI unggul dalam segala hal dibandingkan semua manusia, manusia tetap dapat menjalani kehidupan yang penuh tujuan dan berusaha menciptakan hal-hal yang mengagumkan dan indah (catatan 5). Namun, ini adalah masalah yang perlu diatasi bersama oleh seluruh masyarakat, bukan masalah yang dapat langsung diselesaikan oleh kebijakan. Tempat di mana kebijakan dapat berperan paling besar adalah dengan memperlambat laju pengangguran dan memberikan jaminan ekonomi kepada mereka yang mungkin terdampak, sehingga memberi kita waktu untuk melakukan pekerjaan ini.

Dengan semangat ini, beberapa intervensi kebijakan kunci yang dapat membantu meliputi:

• Mengukur dan melacak. Sangat mudah untuk menolak pengumpulan dan analisis data sederhana sebagai upaya yang tidak cukup untuk mengatasi skala masalah, tetapi jika kita tidak dapat mengukur dengan akurat apa yang sebenarnya terjadi, kita tidak mungkin membuat kebijakan yang baik. Anthropic telah mengoperasikan indeks ekonomi tentang bagaimana orang menggunakan Claude selama hampir satu setengah tahun, tetapi pemerintah dapat mengakses jenis data yang tidak dapat kami peroleh, dan dapat memperluas statistik ekonomi mereka secara signifikan untuk melacak kehilangan pekerjaan akibat AI dengan lebih cermat.
• Langkah insentif untuk mendorong penyerapan tenaga kerja. Kebijakan insentif luas untuk mendorong penyerapan tenaga kerja dapat membantu memperlambat atau mengurangi kehilangan pekerjaan, termasuk: kebijakan asuransi gaji yang memberikan kompensasi kepada orang-orang yang terpaksa menerima pekerjaan berbayar rendah (catatan 6), insentif pajak retensi yang mendorong pengusaha untuk tidak memberhentikan karyawan, subsidi pelatihan tenaga kerja, atau infrastruktur yang mempercepat pencocokan antara pengusaha dan pekerja untuk mempercepat penyesuaian pasar tenaga kerja. Meskipun rincian intervensi terbaik akan bergantung pada jenis substitusi tenaga kerja yang dibawa oleh AI, kita seharusnya menerima dengan terbuka biaya dan ketidakefisienan pasar yang mungkin ditimbulkan oleh kebijakan-kebijakan ini, terutama karena mereka kemungkinan akan diimbangi oleh pertumbuhan produktivitas yang didorong oleh AI.
• Dukungan makroekonomi jangka panjang. Jika substitusi tenaga kerja yang didorong oleh AI akhirnya mencapai skala besar dan secara permanen menekan permintaan terhadap tenaga kerja, maka mungkin diperlukan untuk melampaui program insentif semata dan memberikan dukungan pendapatan jangka panjang kepada sebagian besar tenaga kerja. Mekanisme seperti pendapatan dasar universal dapat dibiayai melalui pajak terhadap perusahaan terkait atau peningkatan pajak keuntungan modal. Akun modal universal menyediakan alat lainnya. Secara luas, pertumbuhan ekonomi yang cepat seharusnya menciptakan basis pajak untuk kemakmuran bersama.

Dalam kekhawatiran ekonomi terkait AI, satu fokus umum yang tidak saya sebutkan adalah pusat data, khususnya potensinya untuk meningkatkan harga energi. Pandangan saya adalah bahwa perusahaan AI seharusnya menanggung sendiri biaya kenaikan tarif—dan Anthropic telah berkomitmen untuk melakukannya—namun saya percaya bahwa permusuhan publik terhadap pusat data sebagian besar merupakan simbol atau saluran pelepasan dari kecemasan ekonomi AI yang lebih luas. Penting bagi kita untuk melakukan dialog sosial langsung mengenai masalah ekonomi yang lebih luas ini, serta menghadirkan solusi meyakinkan yang konkret untuk mengatasinya; jika tidak, masalah-masalah ini kemungkinan besar akan muncul secara tidak langsung, seperti yang terjadi pada isu pusat data.

3. Mempercepat dampak positif AI

Seperti halnya kita harus berusaha menyeimbangkan inovasi dan keamanan AI itu sendiri, kita juga harus berusaha menyeimbangkan bidang-bidang yang mungkin dipercepat oleh AI (seperti biomedis, energi, atau ilmu material). Namun, meskipun AI itu sendiri mungkin membawa tantangan baru yang muncul sangat cepat dan tidak pernah kita alami sebelumnya, bidang-bidang lain yang dipercepat oleh AI justru mungkin menghadapi masalah yang berbeda: sistem regulasi yang dirancang untuk kecepatan inovasi yang lebih lambat belum siap menghadapi arus produk dan kemajuan baru yang dibawa oleh AI. AI juga dapat membuat teknologi hilir ini menjadi lebih aman dan lebih dapat diprediksi, sehingga menggoyahkan asumsi skeptis yang dipegang oleh lembaga regulasi seperti FDA.

Oleh karena itu, untuk aplikasi turunan AI—yang berlawanan dengan AI itu sendiri—saya lebih khawatir regulator akan memperlambat kemajuan (karena mereka tidak mampu menghadapi laju perubahan yang semakin cepat), daripada khawatir AI gagal menangani risiko-risiko penting. Kami paling tidak menginginkan manfaat AI dipperlambat sementara risikonya semakin mendekat, sehingga sangat penting untuk segera mengambil tindakan terhadap masalah ini.

Masalah dan solusinya akan muncul dengan cara yang berbeda di berbagai bidang ilmu, bisnis, dan teknologi, jadi saya akan fokus pada satu bidang yang ilustratif: inovasi biomedis. Hal ini karena kemungkinan besar akan menjadi sumber manfaat kemanusiaan terbesar dari AI, serta karena ini merupakan bidang yang sangat kompleks secara regulasi. Kita belum pasti bagaimana AI akan mempercepat inovasi biomedis, tetapi tampaknya akan:

• Secara signifikan meningkatkan kecepatan kandidat obat baru memasuki jalur regulasi;
• Meningkatkan efek obat baru dan memperbaiki profil keamanannya, karena optimasi yang lebih baik, mungkin juga memperdalam pemahaman terhadap karakteristik biologis potensialnya;
• Mengembangkan kandidat obat untuk penyakit yang sebelumnya tidak pernah berhasil diobati;
• Cepat menciptakan bentuk terapi baru, seperti antibodi, peptida, dan terapi sel yang dalam beberapa dekade terakhir menjadi kategori terapi baru.

Beberapa kemajuan ini secara alami akan mempercepat jadwal regulasi tanpa perlu perubahan struktural. Obat dengan efek yang lebih besar dapat menyebabkan uji klinis yang lebih kecil dan lebih murah, serta mengaktifkan mekanisme persetujuan dipercepat. Namun, sistem regulasi saat ini dirancang untuk memberikan tinjauan tingkat tinggi dan banyak tahap pengujian, dengan asumsi bahwa kandidat obat biasanya tidak efektif, dan bahkan jika efektif, umumnya memiliki masalah keamanan serius. Baik di FDA maupun European Medicines Agency (EMA), waktu rata-rata yang dibutuhkan seorang kandidat obat untuk melewati jalur regulasi adalah 7-8 tahun, sebagian karena asumsi pesimistis ini. Jika tidak ada reformasi, AI hanya akan membuat sistem ini macet atau overload.

Jelas, kami tidak ingin mengubah hal-hal dengan cara yang menyebabkan munculnya sejumlah obat snake-oil (slang untuk obat palsu yang menipu) atau insiden keamanan luas. Namun, beberapa reformasi relatif sederhana dapat membuat FDA, EMA, dan lembaga serupa lebih siap menghadapi percepatan ilmiah yang didorong oleh AI (jika hal ini terjadi).

Banyak langkah prosedur klinis yang sebelumnya memerlukan eksperimen mahal dan lambat kini dapat segera diselesaikan melalui simulasi atau analisis AI. Lembaga regulasi sekarang harus mempertimbangkan untuk menetapkan standar mengenai syarat-syarat apa yang diperlukan untuk menerima metode semacam ini. Ini berarti bahwa sekali metode-metode ini berhasil, mereka dapat segera diadopsi, bukan melalui periode pengujian yang tidak perlu dan diperpanjang. Bidang-bidang yang mungkin mencakup:

• Pemodelan farmakodinamika dan farmakokinetik (PD/PK) berbasis AI;
• Prediksi toksikologi untuk menghindari kebutuhan akan studi toksikologi hewan multi-spesies;
• Pemilihan dosis yang lebih akurat untuk mengurangi kebutuhan akan rentang dosis tinggi dalam uji coba;
• Validasi biomarker melalui analisis dataset besar;
• Kelompok kontrol sintetis dalam uji klinis untuk mengurangi kebutuhan merekrut peserta tambahan;
• Mengembangkan tujuan pengganti (ini sangat penting dalam penuaan dan penyakit degeneratif saraf).

Selain contoh-contoh spesifik ini, lembaga-lembaga juga harus mempertimbangkan mekanisme persetujuan percepatan yang lebih agresif dan fleksibel. Jika prediksi saya tentang AI benar, maka akan segera muncul banyak intervensi yang tiba-tiba muncul (out of the blue, idiom, berarti secara tak terduga atau mendadak) dengan efek yang sangat baik, dan sistem regulasi harus siap untuk memperlakukan mereka dengan serius, bukan dengan sikap yang terlalu penuh kecurigaan.

Percepatan biomedis seharusnya secara signifikan meningkatkan manfaat AI, tetapi perlu dicatat bahwa hal itu juga dapat membantu mengurangi risiko AI. Reformasi persetujuan biomedis dapat membantu pertahanan biologis, dan kemajuan biomedis yang didorong AI juga dapat meningkatkan kesehatan mental, yang dapat memiliki efek stabilisasi terhadap masyarakat.

4. Kebebasan Negara dan Warga Negara

Setiap sistem pemerintahan harus menghadapi masalah kekuasaan negara dan batasannya. Negara memiliki kepentingan yang sah, seringkali menyangkut hidup atau mati, dalam melindungi penduduknya dari ancaman internal dan eksternal. Namun, memberikan terlalu banyak kekuasaan kepadanya adalah jalan menuju tirani. Negara-negara demokrasi modern sebagian besar berhasil mengelola keseimbangan ini, tetapi bahkan di masa-masa terbaik sekalipun, keseimbangan ini tetap mengganggu. Memelihara keseimbangan ini memerlukan sejumlah besar mekanisme hukum dan konstitusional yang telah dibangun selama berabad-abad—misalnya, di Amerika Serikat, Amandemen Pertama, Keempat, dan Kelima, Undang-Undang Posse Comitatus, Undang-Undang Pengawasan Intelijen Asing (FISA), dan sebagainya.

AI mengancam untuk mengganggu keseimbangan ini, sekaligus secara signifikan meningkatkan taruhannya. Namun, jika kita merespons dengan cepat dan menghadapi tantangan ini, kita dapat memanfaatkan AI untuk menciptakan dunia yang memiliki jaminan kebebasan yang lebih kuat dan lebih tahan lama serta pertahanan yang lebih baik terhadap ancaman daripada sebelumnya.

AI yang kuat yang jatuh ke tangan jahat bisa menjadi alat ultimatif untuk otoritarianisme, dan perlindungan hukum serta konstitusional kita saat ini belum sepenuhnya siap menghadapi ancaman semacam ini. Pada dasarnya, imbalan besar yang dibawa oleh kecerdasan dalam kekuasaan dunia, ditambah dengan kecepatan pesat kemajuan pengembangan AI, menciptakan badai sempurna (perfect storm, idiom yang berarti berbagai situasi buruk terjadi secara bersamaan dan menciptakan keadaan yang sangat buruk) bagi berbagai pelaku berbahaya untuk secara tidak sengaja merebut kekuasaan.

Bahaya ini dapat mengambil berbagai bentuk teknis atau operasional, tetapi titik bersamanya adalah bahwa AI tiba-tiba dapat memberikan kekuasaan besar sekaligus melewati (routing around, slang/arti kiasan, berarti menghindari hambatan atau mekanisme pengawasan demokratis) mekanisme pengawasan demokratis yang ada. Sebuah pasukan drone sepenuhnya otomatis yang terdengar seperti fiksi ilmiah hari ini, di masa depan mungkin akan menaati perintah ilegal dan memungkinkan pemerintah memperkuat kekuasaannya secara sepihak; manusia yang terlatih secara profesional lebih mungkin menolak perintah ilegal semacam itu. Sebuah AI yang berfokus pada pengawasan dapat menganalisis secara masif informasi yang tersedia luas dan menggunakannya untuk menyimpulkan detail paling pribadi dalam kehidupan setiap warga negara—ini adalah kemampuan teknis yang tidak dipertimbangkan oleh hukum kebebasan sipil saat ini. Semua ini dapat terjadi dalam waktu yang sangat singkat atau secara rahasia, sehingga sangat penting untuk secara proaktif memperkuat komitmen negara-negara demokratis terhadap kebebasan dan hak-hak sipil.

Berikut adalah beberapa gagasan kebijakan yang harus kami pertimbangkan:

• Buat aturan akuntabilitas yang andal untuk senjata otomatis penuh. Senjata otomatis penuh, terutama sistem otonom apa pun yang mengoordinasikan atau mengendalikannya, harus diwajibkan untuk merespons mekanisme akuntabilitas konstitusional dan komando (misalnya, perintah pengadilan, undang-undang, serta akuntabilitas terhadap pengawas manusia tingkat tinggi), bukan sekadar patuh buta terhadap perintah. Ini mungkin berarti bahwa kelompok tinjauan hukum yang dirancang dengan baik atau cabang yudikatif memiliki kendali atas “saklar mati” tertentu, atau sistem itu sendiri secara intrinsik dilatih untuk mencari dan merespons lembaga pengawas yang sah, atau keduanya.
• Dilarang menggunakan senjata otomatis penuh di dalam negeri. Meskipun senjata otomatis penuh memiliki alasan kebutuhan yang sah untuk pertahanan melawan lawan asing (misalnya, invasi Rusia ke Ukraina), tidak ada alasan apa pun untuk menggunakannya terhadap warga Amerika. Kemampuan militer dalam operasi domestik sudah dibatasi sebagian, tetapi secara ideal, senjata-senjata ini juga seharusnya dilarang digunakan dalam penegakan hukum.
• Tutup celah pengumpulan massal/agen data. Menurut hukum yang berlaku, data yang dibagikan warga Amerika dengan perusahaan swasta (seperti penyedia internet) dapat dibeli dan digunakan untuk analisis massal dalam pemantauan domestik dan penegakan hukum. Celah dalam perlindungan privasi ini sudah ada sebelum munculnya AI, tetapi AI akan sangat meningkatkan risikonya dengan membuat analisis skala besar terhadap data semacam ini jauh lebih mengungkapkan dan praktis dibanding sebelumnya. Celah ini harus ditutup.
• Memiliki hak publik untuk mendapatkan saran AI saat menghadapi tindakan pemerintah yang merugikan. Sebagai prinsip umum, setiap individu atau organisasi yang menjadi sasaran tindakan pemerintah yang merugikan (seperti regulasi atau tindakan hukum) harus diberi kesempatan untuk mendapatkan AI setidaknya sekuat AI yang diizinkan digunakan oleh pemerintah dalam tindakan tertentu, tampaknya sangat penting. Ini berarti tidak memberikan keunggulan tidak adil kepada pemerintah yang pada dasarnya merusak hak hukum warga negara. Ini dapat ditambahkan atau diinterpretasikan sebagai perluasan atau penafsiran dari Undang-Undang Prosedur Administratif, perlindungan proses hukum, atau hak untuk mendapatkan perwakilan hukum berdasarkan Amandemen Keenam.

Terakhir, perlu dicatat bahwa dalam hal perebutan kekuasaan yang didorong oleh AI, pemerintah bukan satu-satunya entitas yang harus kita waspadai. Pada berbagai periode sejarah (seperti Zaman Gilded Amerika atau Perusahaan Hindia Timur Inggris), perusahaan menjadi cukup kuat sehingga mereka menangkap negara atau mengadopsi ciri-ciri quasi-negara. AI akan segera menjadi sangat kuat sehingga saya khawatir tidak aman untuk sepenuhnya menyerahkannya kepada pemerintah atau perusahaan, dan harus ada mekanisme check and balance untuk masing-masing pihak.

Regulasi adalah salah satu jawaban untuk bagaimana mengendalikan perusahaan (pandangan saya terdapat di Bagian 1), tetapi yang sama pentingnya adalah bahwa perusahaan AI harus memiliki distribusi kekuasaan dan akuntabilitas yang lebih besar dibandingkan entitas swasta biasa. Trust for Anthropic’s Long-Term Interests (sebuah badan tata kelola independen yang bertujuan untuk mendorong perusahaan memenuhi misinya) adalah contoh struktur semacam itu, dan industri harus terus mengeksplorasi mekanisme yang lebih jauh. Mencapai keseimbangan yang tepat—membatasi kekuasaan perusahaan dan pemerintah secara bermakna—sangat penting.

5. Pastikan kepemimpinan negara-negara demokratis

Menganggap teknologi baru sebagai alat kebijakan perdagangan dalam konteks geopolitik, dengan tujuan “menyebarluaskan tumpukan teknologi kita di seluruh dunia,” telah menjadi naluri yang umum, mungkin berkembang dari pengalaman terbaru di industri internet dan telekomunikasi. Namun saya sangat teguh percaya bahwa AI adalah sesuatu yang jauh lebih mendalam, yang me-reset seluruh papan catur, dan semua strategi geopolitik masa depan harus dirancang mengelilinginya—seperti senjata nuklir, tetapi berpotensi bahkan lebih berdampak besar.

Jika AI benar-benar akan segera menjadi "negara jenius di pusat data," atau sesuatu yang mirip dengannya, maka AI kemungkinan besar akan menjadi sumber utama kekuatan militer dan ekonomi setiap negara. Di sebuah negara virtual dengan 100 juta jenius, 10 juta dapat diterapkan pada strategi militer, 10 juta pada pembuatan pesawat tanpa awak, 10 juta pada pengembangan senjata, 10 juta pada pengumpulan dan analisis intelijen, 10 juta pada kemajuan ilmu pengetahuan umum, dll. Sebuah negara dengan AI yang kuat menghadapi negara tanpa AI—atau bahkan negara yang tertinggal tiga tahun dalam hal AI—kesenjangan tersebut mungkin setara dengan pasukan Marinir Perang Dunia II menghadapi pasukan ksatria abad pertengahan.

Selain itu, jika AI kuat dapat mencapai bentuk represi otoriter yang lebih dalam dan mungkin permanen (lihat Bagian 4), maka menjadi sangat penting untuk memastikan bahwa negara paling kuat di dunia adalah negara demokratis—atau setidaknya ada langkah perlindungan kuat terhadap represi yang didorong oleh AI. Ini juga meningkatkan urgensi untuk merumuskan strategi geopolitik yang terfokus.

Negara-negara demokratis harus mencari membangun aliansi global yang berpusat pada pembangunan AI berdasarkan nilai-nilai bersama, secara iteratif berusaha menarik wilayah lain di dunia, sehingga menjadi semakin menarik untuk bergabung dengan aliansi ini dan semakin sedikit daya tariknya untuk berada di luar aliansi tersebut. Aliansi ini harus menjadi internationalisasi terkoordinasi terhadap gagasan kebijakan AI yang dibahas dalam Bagian 1 hingga 4, ditambah upaya untuk mengunci rantai pasokan kunci yang diperlukan untuk membangun AI dengan cara berbagi di dalam aliansi dan menolak memberikannya kepada pihak eksternal. Beberapa prinsip dan tujuan operasional mungkin mencakup:

Kelola rantai pasokan AI. Anggota aliansi yang dapat dipercaya harus bebas saling berbagi chip dan peralatan manufaktur semikonduktor (SME), sambil berkolaborasi untuk menolak akses pesaing terhadapnya. Pembatasan AS terhadap ekspor chip mutakhir dan SME ke Tiongkok adalah salah satu alasan utama mengapa AS tetap unggul secara keseluruhan di bidang AI, dan kebijakan ini perlu diperluas, diperketat, dan dikoordinasikan dengan negara-negara sekutu lainnya. Undang-undang yang sedang dipertimbangkan seperti MATCH dan OVERWATCH merupakan titik awal yang baik, dan negara-negara demokrasi sekutu perlu mempertimbangkan mengambil langkah serupa.

• Koordinasi diperlukan untuk mengatasi risiko AI. Jika dilakukan secara internasional, kebijakan yang dijelaskan di Bagian 1 yang bertujuan mengatasi risiko biologis, keamanan siber, dan otonomi akan lebih efektif (sekaligus memberikan beban lebih ringan bagi industri). Ini berarti perusahaan dapat mematuhi standar yang saling kompatibel, dan regulator dapat saling belajar cara terbaik untuk mengukur dan mengurangi risiko-risiko ini. Lembaga penegak hukum dan intelijen juga seharusnya bekerja lebih erat untuk melacak dan menghentikan penyalahgunaan ancaman, seperti upaya teroris memanfaatkan AI untuk membuat senjata biologis.
• Bagikan manfaat AI. Kebijakan perdagangan dan regulasi dapat digunakan untuk mempercepat penyebaran manfaat ekonomi AI di dalam aliansi, serta berbagi pelajaran dari pengalaman dalam mempercepat inovasi. Koordinasi metode penerapan yang bermanfaat dapat membawa manfaat AI ke negara berkembang. Sebagai contoh, penyatuan sistem persetujuan medis dapat memungkinkan obat yang diberdayakan AI diuji dan disetujui lebih cepat dan lebih baik (seperti yang dijelaskan di Bagian 3 di atas).
• Pertahanan bersama. Negara-negara dalam aliansi harus bekerja sama menggunakan AI untuk pertahanan diri dan melawan AI lawan. Aliansi harus secara kolektif memastikan produksi yang memadai untuk pertahanan siber berbasis AI, drone berbasis AI, manufaktur berbasis AI, daya komputasi AI rahasia, penelitian dan pengembangan berbasis AI, serta pengumpulan intelijen berbasis AI.
• Tolak penindasan yang didukung AI. Anggota aliansi harus menolak tirani berbasis AI yang otoriter ekstrem dan berteknologi tinggi yang saya peringatkan dalam "The Adolescence of Technology", dan harus memiliki jaminan keamanan serupa dengan yang saya deskripsikan di Bagian 4 di atas.
• Kerja sama makroekonomi. Krisis ketenagakerjaan atau stabilitas pekerjaan, seperti halnya krisis ekonomi lainnya, bersifat menular lintas batas. Oleh karena itu, negara-negara memiliki kepentingan bersama untuk bekerja sama dan mengoordinasikan kebijakan dukungan dan stabilitas makroekonomi (seperti yang dijelaskan di Bagian 2) untuk menangkal dampak apa pun terhadap ketenagakerjaan.

Tujuannya adalah membuat keanggotaan aliansi se-menarik mungkin—dan membuat biaya tetap di luar aliansi menjadi jelas. Aliansi ini akan didasarkan pada koordinasi antarnegara berdaulat, di mana setiap negara mempertahankan kendali penuh atas urusan dalam negerinya. Aliansi ini dapat berkembang secara bertahap, dimulai dengan negara-negara demokratis yang sejalan secara ideologis (yang secara alami mudah bergabung), lalu secara bertahap menyambut negara-negara yang kurang alami cocok tetapi siap memenuhi standar aliansi demi manfaat besar keanggotaannya. Secara ideal, seluruh dunia pada akhirnya akan bergabung. Namun, bahkan jika hal ini tidak mungkin, mendirikan aliansi ini akan menempatkan negara-negara demokratis pada posisi paling kuat untuk menahan dan mengungguli rezim-rezim yang terobsesi dengan pemerintahan otoriter.

Jendela peluang

Kemajuan eksponensial AI membawa urgensi dan kecepatan transformasi yang biasanya tidak siap dihadapi oleh proses pembuatan kebijakan. Namun, ia juga menciptakan jendela peluang yang unik. Bukti nyata dan jelas mengenai risiko AI, pengalaman awal terhadap potensinya dalam menciptakan serta menghancurkan nilai ekonomi, dan reaksi kuat publik terhadap pendekatan AI yang tanpa batas saling bersatu, membentuk situasi di mana pembuat kebijakan sangat terbuka terhadap tindakan proaktif. Pohon dan hutan sedang bangun.

Menganggap ini sebagai masalah publik relations di kalangan industri AI telah menjadi hal yang populer: yaitu AI membutuhkan “pemasaran yang lebih baik”. Saya sepenuhnya menolak kerangka ini. Orang-orang merasa khawatir tentang AI karena mereka secara tepat menyadari bahwa risikonya nyata, bukan karena para CEO AI tidak berperilaku cukup “Panglossian” (referensi sastra/adjektiva, menggambarkan optimisme buta). Saya percaya, sebagai pemimpin AI, tanggung jawab saya adalah terus menjaga transparansi terhadap risiko-risiko ini, dan kekhawatiran publik terhadap transparansi semacam ini merupakan bentuk akuntabilitas demokratis yang berjalan sebagaimana mestinya. Tantangan utamanya adalah mengarahkan kekhawatiran ini ke dalam solusi yang konstruktif, tanpa membiarkannya berubah menjadi kemarahan dan kekerasan yang tak terlihat.

Saya optimis menemukan solusi, karena banyak masalah—mulai dari menyelesaikan pengangguran hingga pengujian sebelum peluncuran model, dari larangan ekspor chip hingga konsumsi energi dan masalah kebijakan AI lainnya—memiliki daya tarik akal sehat di seluruh spektrum politik. Ada dunia masa depan yang diidamkan namun realistis, di mana aliansi luas tanpa partai, didorong oleh pemahaman langsung terhadap tantangan yang dibawa AI, akan mengesahkan kebijakan yang rasional dan proaktif jauh lebih cepat dari biasanya. Semakin cepat kita melakukannya, semakin cepat kita dapat menikmati manfaat luar biasa dari AI.

Saya ingin mengucapkan terima kasih kepada Allan Dafoe, Mariano-Florentino Cuéllar, Richard Fontaine, Buddy Shah, Vas Narasimhan, Matt Yglesias, Nick Beckstead, Jason Matheny, Brad Carson, dan banyak karyawan Anthropic atas masukan dan umpan balik mereka terhadap draf artikel ini.

Footnote

Saya membahas risiko biologis dan risiko otonomi, serta hal-hal lainnya, dalam artikel saya "The Adolescence of Technology". Anthropic juga mempublikasikan beberapa data internal awal tentang kemungkinan peningkatan diri rekursif dalam "When AI Builds Itself", yaitu model yang mampu membangun model yang lebih baik secara mandiri.

Fenomena ini bukan hanya teoretis: kami telah mengamati hal ini berulang kali dalam kerangka tata kelola sukarela kami sendiri (seperti kebijakan penskalaan bertanggung jawab/Responsible Scaling Policy kami). Jika kami menetapkan daftar persyaratan keamanan tetap atau kaku untuk model AI masa depan, kemungkinan besar hasilnya adalah persyaratan-persyaratan yang ternyata tidak relevan akan menghabiskan 95% upaya kepatuhan kami, sementara pada saat yang sama kami menemukan bahwa beberapa sumber risiko terbesar sama sekali tidak diprediksi dalam daftar kami. Kerangka sukarela dapat diubah dan disesuaikan, tetapi hal ini jauh lebih sulit dilakukan dalam undang-undang. Upaya saya untuk mengatasi dilema ini dapat dilihat dari dua surat publik saya mengenai SB 1047, undang-undang California tahun 2024 yang berusaha menangani risiko bencana, yang karena alasan di atas, membuat saya merasa sangat kompleks.

Misalnya, risiko biologis yang benar-benar serius mungkin lebih sulit dikelola daripada risiko siber, karena penyerang memiliki keunggulan besar dibandingkan pihak pertahanan, dan tingkat keparahan bencana bisa jauh lebih besar.

Lihat "The Adolescence of Technology" untuk analisis lebih mendalam mengapa logika yang menyebabkan pemulihan cepat pasar tenaga kerja tanpa penggantian tenaga kerja yang berkelanjutan dalam teknologi lain mungkin tidak berlaku untuk AI, khususnya mengapa mekanisme adaptasi biasa seperti paradoks Jevons atau keunggulan komparatif mungkin tertutupi oleh kecepatan teknologi.

Misalnya, orang masih mengabdikan seumur hidup mereka untuk bermain catur atau go, atau mendaki gunung, dan tetap dihormati karena aktivitas-aktivitas ini, meskipun mesin dapat melakukan semua hal ini dengan lebih baik.

Ini sebenarnya memberi orang insentif tambahan untuk berpindah dan mulai mengikuti pelatihan tangga karier baru, bahkan jika secara jangka pendek akan menyakitkan, dengan cara membayar selisih antara gaji lama dan baru mereka.

Untuk informasi lebih lanjut tentang topik ini, lihat "Pubertas Teknologi". (Artikel ini pertama kali diterbitkan di aplikasi Titanium Media, penulis |硅谷Tech_news, editor | 林深)