Anthropic Meluncurkan Anthropic Institute untuk Mempelajari Dampak AI terhadap Masyarakat dan Ekonomi

Tadi malam, AI baru Anthropic (selanjutnya disingkat A-Sos) tidak meluncurkan model Claude baru, tetapi memperkenalkan sesuatu yang tampak sangat 'membosankan': The Anthropic Institute (Institut Anthropic, disingkat TAI).

Dibandingkan dengan Harness Engineering yang populer pada tahun 2026, masalah yang ingin diatasi oleh TAI jauh lebih luas. Menurut agenda penelitian yang diumumkan oleh Anthropic (anthropic-institute-agenda), TAI berfokus pada empat bidang: difusi ekonomi, ancaman dan ketahanan, sistem AI dalam penerapan nyata, serta riset yang didorong oleh AI. TAI juga secara global mengeluarkan undangan bagi para peneliti untuk bekerja sama menyelesaikan masalah-masalah tersebut.

(Sumber gambar: X@Anthropic resmi)

Artinya, perusahaan A (singkatan dari Anthropic) membentuk sebuah organisasi internal yang terutama meneliti bagaimana manusia berinteraksi dengan AI:

• Bagaimana AI akan memengaruhi lapangan kerja dan ekonomi?
• Apa saja risiko keamanan baru yang akan muncul?
• Apakah perilaku dan penilaian manusia akan berubah setelah benar-benar menggunakan AI?
• Ketika AI mulai membantu mengembangkan AI yang lebih kuat, bagaimana proses akselerasi ini harus dipahami dan dikendalikan?

Mungkin banyak pembaca menganggap ini hanyalah tindakan biasa dari perusahaan AI, tetapi Lei Technology percaya ini mungkin merupakan tindakan paling patut diperhatikan dari A-Social baru-baru ini. Dampak positif TAI terhadap industri AI dan umat manusia sebanding dengan nilai inti "Jangan menjadi jahat" yang diajukan Google bagi industri internet. Oleh karena itu, Lei Technology AGI menyatakan bahwa ini adalah "peluncuran" yang setara dengan pembaruan model besar.

Arah penelitian utama TAI adalah Economic Diffusion.

Mengulas tiga revolusi industri pertama dalam sejarah manusia, baik mesin pemintal Jenny, mesin uap yang bergemuruh, maupun listrik dan jalur perakitan selanjutnya, pada dasarnya menggantikan tenaga kerja fisik yang sangat murah dan berulang. Namun, revolusi industri keempat yang digerakkan oleh AI sama sekali berbeda, karena langsung memasuki wilayah pekerjaan intelektual yang paling menjadi kebanggaan manusia.

Namun, TAI menunjukkan kontradiksi inti: alat telah ditingkatkan, tetapi kondisi para pekerja justru menjadi lebih buruk.

Dalam penelitian karya tulis, TAI menyebutkan bahwa jika di masa depan 3 orang dapat menyelesaikan pekerjaan yang sebelumnya dilakukan oleh 300 orang dengan memanfaatkan model besar, perusahaan tersebut akan berubah menjadi seperti apa?

Desainer dapat menggunakan AI untuk menyelesaikan lapisan dan sumber daya paling rumit dengan satu klik, programmer dapat menggunakan AI untuk Vibe Coding... Dengan asumsi AI dapat meningkatkan efisiensi kerja sebesar 75%, ini tidak akan mengurangi jam kerja manusia dari 8 jam (atau bahkan 996) menjadi 2 jam; sebaliknya, manusia mungkin perlu melakukan lima kali lebih banyak pekerjaan.

TAI hanya peduli pada logika baru: "Dengan adanya AI, beban kerja Anda harus naik beberapa kali lipat." Untuk mengukur situasi ini, TAI menciptakan istilah baru, The Anthropic Economic Index (Indeks Ekonomi Anthropic). A Society menyatakan bahwa mereka tidak hanya akan mempublikasikan makalah akademis yang sedikit diperhatikan, tetapi berencana untuk mengungkap data nyata ini dan secara jelas memberitahu manusia: AI sebenarnya telah menggantikan posisi manusia di industri mana saja? Apakah para pemula baru akan tereliminasi sejak awal karier mereka?

(Sumber gambar: Dihasilkan oleh AI)

Selain itu, TAI juga membawa perhitungan ini ke dunia nyata. Kita semua tahu bahwa model besar adalah "mesin pengkonsumsi dana" yang tak pernah puas; setiap kali kita memanfaatkan AI untuk menghasilkan teks, gambar, video, atau bahkan sekadar mengajukan pertanyaan sederhana, kita menghabiskan sejumlah besar token. Token secara mendasar adalah kekuatan komputasi, kekuatan komputasi secara mendasar adalah chip, penyimpanan, dan listrik, dan jika kita telusuri lebih jauh lagi, ada emisi karbon, modal, dan lainnya. Sumber daya selalu terbatas; ketika masyarakat mengalokasikan sumber daya dalam jumlah besar ke AI, industri lain pasti akan terdampak.

Pada tahun 2026, pengalaman paling mencolok yang dirasakan semua orang adalah: kekurangan memori dan penyimpanan akibat AI secara langsung menyebabkan kenaikan harga umum pada produk elektronik konsumen, bahkan produsen ponsel terpaksa mengurangi keinginan untuk meluncurkan ponsel baru. Namun, pada saat yang sama, semua produsen ponsel berharap dapat menggunakan AI untuk membentuk ulang logika produk dan memperpanjang siklus hidup ponsel, sementara ponsel AI asli dari OpenAI juga telah dimasukkan ke dalam jadwal. Ketika setiap orang mendapat manfaat dari AI, lebih banyak industri terpengaruh secara mendalam oleh AI—baik yang positif maupun negatif.

Sementara TAI menggunakan "Indeks Ekonomi" untuk mengkuantifikasi dampak AI terhadap ekonomi dari persepsi abstrak menjadi model data: hanya dengan memahami masalahnya dengan jelas, kita baru bisa menyelesaikannya.

Jika kehilangan pekerjaan seperti luka yang dipotong perlahan-lahan, maka perubahan pemikiran manusia akibat AI adalah cedera langsung.

Yang pertama kali terkena dampak pasti adalah internet. Anda tidak akan kesulitan menyadari bahwa internet saat ini sedang berubah menjadi "gunung kotoran". Dulu, mencari panduan perjalanan bisa dengan mudah menemukan banyak postingan yang membahas pengalaman buruk dan cara menghindarinya, sekarang semuanya penuh dengan konten buatan AI yang tampak indah dan teratur, tetapi sebenarnya hanya omong kosong yang dibuat-buat dengan serius.

Yang lebih berbahaya lagi, AI telah menurunkan ambang batas industri abu-abu menjadi nol: menggunakan AI untuk mengganti wajah demi menyebar fitnah seksual, meniru suara kerabat untuk melakukan penipuan telekomunikasi, penipu hanya perlu membakar beberapa Token untuk menghancurkan kehidupan orang biasa.

TAI juga memperhatikan krisis yang lebih dalam: AI secara tak terasa membuat manusia menjadi semakin 'bodoh'.

Sebelumnya, pengguna Tiongkok pernah melihat jamur liar yang tidak dikenal di alam terbuka, lalu mengambil foto dan bertanya ke AI, "Apakah ini bisa dimakan?" AI menjawab serius bahwa jamur beracun itu adalah "jamur lezat yang dapat dimakan"; ada juga anak kecil yang membawa perangkap tikus dan bertanya kepada AI apa itu, AI menganalisis dengan serius bahwa itu adalah "mainan mobil karts bekas berbentuk kotak dengan struktur logam", akibatnya anak itu penasaran menyentuhnya, dan jari-jarinya terjepit erat.

Berita-berita ini terdengar seperti lelucon neraka, tetapi ia mengungkapkan sebuah fenomena: ciri terbesar AI sama sekali bukan kecerdasan, melainkan «keyakinan aneh». AI tidak pernah bisa mencapai akurasi 100%; model terbaru Google Gemini baru bisa mencapai akurasi fakta sekitar 91%, yang sudah merupakan tingkat tinggi. Namun, banyak pengguna secara perlahan kehilangan kemampuan berpikir selama penggunaan AI, dan secara otomatis menyerahkan seluruh keputusan kepada serangkaian kode.

Untuk ini, TAI mengajukan pertanyaan yang memikat: ketika sebagian besar masyarakat mencari saran hanya dari dua atau tiga model besar saja, bagaimana pola berpikir dan metode pemecahan masalah kelompok manusia akan mengalami "homogenisasi" yang mengerikan? Anda mengira sedang menggunakan alat AI untuk meningkatkan efisiensi produksi dan tingkat kognitif, padahal sebenarnya sedang "mengekspor otak". Dengan kata lain, jika semua orang mulai bergantung pada AI, kemungkinan besar manusia akan kehilangan kemampuan berpikir mandiri, sehingga seluruh otak umat manusia menjadi replika yang dicetak dari cetakan yang sama.

TAI juga mengusulkan konsep baru: kemampuan ganda (dual-use capabilities), yang dijelaskan secara resmi sebagai berikut: Jika kemampuan model AI dalam biologi meningkat, maka ia tidak hanya dapat digunakan untuk mengembangkan obat baru, tetapi juga dapat digunakan untuk membuat senjata biologis yang sangat mematikan; jika AI sangat ahli dalam menulis kode, maka ia bukan hanya programmer yang baik, tetapi juga menjadi peretas yang dapat dengan mudah membobol jaringan dalam negeri.

(Sumber gambar: Resmi Anthropic)

Ketika monster dengan "dua fungsi" ini terhubung secara massal ke otak mobil otonom, lengan mesin berat di pabrik, bahkan hingga ke sistem keamanan dan kelompok drone, seberapa besar kerusakan yang akan terjadi? Di ponsel, AI akan menampilkan pesan, "Maaf, saya melakukan kesalahan"; tetapi di dunia nyata, penyimpangan identifikasi selama satu detik bisa langsung menyebabkan kecelakaan keselamatan produksi yang nyata.

Belum lagi model besar bisa diiterasi setiap beberapa minggu, sementara manusia membutuhkan waktu bertahun-tahun untuk mengubah undang-undang atau menyempurnakan asuransi. Waktu kosong di antara keduanya adalah periode "telanjang" dengan pertahanan paling lemah. Ketika berbagai bencana yang disebabkan oleh AI terjadi, masyarakat saat ini sama sekali tidak memiliki "ketahanan" untuk menanggungnya.

Untuk mengatasi masalah ini, TAI membentuk Frontier Red Team. Tugas mereka sederhana namun abstrak: setiap hari mencoba berbagai cara untuk menyerang dan memancing agen AI yang mereka kembangkan, guna memahami seberapa besar kerusakan yang bisa ditimbulkan olehnya di dunia nyata, demi membangun pertahanan sebelum sistem sosial yang sudah usang ini runtuh sepenuhnya.

Dulu, kecepatan evolusi AI didominasi oleh programmer manusia, tetapi kini model besar tingkat lanjut mampu membaca paper sendiri, menulis kode, dan mungkin dalam waktu dekat akan mampu mengembangkan model besar generasi berikutnya sendiri. Ketika kecepatan self-replication AI semakin cepat, evolusi teknologi segera akan melampaui pemahaman manusia.

(Sumber gambar: Dihasilkan oleh AI)

Untuk menghadapi titik balik yang bisa datang kapan saja, TAI mengusulkan konsep baru: mengadakan skenario Fire drill untuk ledakan kecerdasan.

Secara sederhana, TAI bersiap membawa para eksekutif laboratorium terkemuka dan pemerintah berbagai negara melakukan simulasi: mereka ingin menguji sebelum "ledakan kecerdasan" benar-benar terjadi, apakah manusia benar-benar mampu menginjak rem.

Pada saat seluruh industri sedang berlari tanpa melihat ke belakang, meninjau kembali langkah Anthropic dalam mendirikan TAI memang membuat kita merasa 'terkesan'.

Perusahaan sebelah, OpenAI, setiap hari masuk daftar tren bukan karena kepergian eksekutif atau konflik internal, melainkan karena sengketa hukum yang berlarut-larut dengan Musk. Banyak perusahaan AI lainnya memiliki kinerja buruk, namun tetap berusaha "memanipulasi daftar tren" sambil mencari pendanaan dari berbagai sumber, mengandalkan valuasi yang tidak realistis untuk menarik modal sosial. Topik yang dibahas oleh A社 TAI memang telah lama menjadi perbincangan di industri, tetapi sebagian besar raksasa AI mengambil sikap: "Biarkan saja, fokus pada pertumbuhan dulu." Dalam suasana yang sangat tidak sabar ini, A社 justru mengerem dengan membuka secara terbuka semua masalah tersembunyi itu, menunjukkan sikap baru terhadap AI: berkembang sekaligus mengelola.

A bukan lembaga amal, bukan pula sedang mengalami ledakan empati, melainkan sedang memainkan permainan bisnis yang sangat cerdas. Saat ini, para pemilik kekuasaan finansial dan pemerintah yang memiliki kendali besar sudah sangat takut akan berbagai kegagalan yang disebabkan oleh AI: membeli model saja, performanya sedikit lebih tinggi atau lebih rendah tidak masalah, yang paling ditakuti adalah model tersebut tiba-tiba menjadi gila dan menimbulkan bencana besar, sehingga tidak bisa lagi dikendalikan. Sementara itu, A menciptakan citra diri sebagai "orang normal" melalui TAI, agar pengguna merasa aman dan dunia percaya.

(Sumber gambar: Dihasilkan oleh AI)

Di akhir artikel ini, TAI juga secara jelas menyebutkan: semua penelitian dan peringatan dini TAI akan langsung dimasukkan ke dalam lembaga inti Anthropic—Long-Term Benefit Trust. Misi LTBT adalah secara ketat memantau keputusan bisnis perusahaan, memastikan setiap tindakan Anthropic bertujuan untuk kepentingan jangka panjang seluruh umat manusia, bukan untuk mengejar keuntungan laporan keuangan jangka pendek.

Ini persis seperti motto terkenal Google di masa lalu: "Jangan menjadi jahat": Melalui TAI, A Society memberi tahu dunia bahwa ketika pesaing saling berlomba untuk lebih cepat, kami tidak hanya berlari cepat, tetapi juga meneliti cara untuk berhenti.

Mengharapkan raksasa teknologi mengawasi diri mereka sendiri memang agak tidak masuk akal, tetapi di era saat ini di mana semua orang berlari kencang dengan mata tertutup dan gas dilas tetap menyala, keberadaan pemain utama yang secara aktif mendirikan lembaga penelitian seperti TAI, menginvestasikan uang sungguhan untuk mengembangkan indeks ekonomi, mensimulasikan ledakan kecerdasan, dan meneliti degenerasi otak manusia, sudah patut diperhatikan. Karena itu, Lei Technology menyatakan di awal bahwa peluncuran TAI lebih penting daripada A Society yang langsung merilis model baru.

Di Anthropic Research (TAI), kami akan memanfaatkan informasi yang tersedia di laboratorium terdepan untuk meneliti dampak kecerdasan buatan terhadap dunia dan membagikan temuan kami dengan publik. Di sini, kami akan membagikan pertanyaan-pertanyaan yang mendorong agenda penelitian kami.

Agenda penelitian kami terutama berfokus pada empat bidang berikut:

• Economic diffusion
• Ancaman dan Ketahanan
• Sistem kecerdasan buatan dalam penerapan nyata
• Riset dan pengembangan yang didorong oleh kecerdasan buatan

Dalam artikel "Inti Pandangan Keamanan Kecerdasan Buatan", kami menunjukkan bahwa melakukan penelitian keamanan yang efektif memerlukan kontak erat dengan sistem kecerdasan buatan terkini. Prinsip yang sama juga berlaku untuk melakukan penelitian yang efektif tentang dampak kecerdasan buatan terhadap keamanan, ekonomi, dan masyarakat.

Di Anthropic, kami telah melihat perubahan mendasar dalam pekerjaan seperti rekayasa perangkat lunak. Kami sedang menyaksikan struktur ekonomi internal Anthropic mulai berubah, sistem yang kami bangun juga menghadapi ancaman baru, dan tanda-tanda awal kecerdasan buatan mempercepat perkembangan kecerdasan buatan itu sendiri. Untuk memaksimalkan manfaat dari kemajuan kecerdasan buatan, kami ingin berbagi sebanyak mungkin informasi ini. Kami sedang meneliti bagaimana dinamika ini akan memengaruhi dunia luar, serta bagaimana masyarakat umum dapat membantu membimbing perubahan ini.

Di TAI, kami akan meneliti dampak kecerdasan buatan di dunia nyata dari perspektif laboratorium terdepan, lalu mempublikasikan hasil penelitian ini untuk membantu organisasi eksternal, pemerintah, dan publik membuat keputusan yang lebih baik mengenai perkembangan kecerdasan buatan.

Kami akan membagikan penelitian, data, dan alat agar peneliti perorangan dan institusi dapat lebih mudah melakukan topik-topik penelitian ini. Secara khusus, kami akan membagikan:

• Kami akan mengambil informasi yang lebih rinci dari indeks ekonomi manusia dengan frekuensi yang lebih tinggi untuk memahami dampak dan penerapan kecerdasan buatan terhadap pasar tenaga kerja. Kami akan berusaha menjadi sinyal peringatan dini untuk perubahan dan gangguan besar.
• Penelitian tentang bidang sosial mana yang paling membutuhkan investasi untuk meningkatkan ketahanannya menghadapi risiko keamanan baru yang dibawa oleh kecerdasan buatan.
• Jelaskan lebih rinci bagaimana Anthropic memanfaatkan alat AI baru untuk mempercepat kemajuan kerja, serta makna potensial dari peningkatan diri rekursif sistem AI.

TAI akan memengaruhi keputusan Anthropic. Ini mungkin terwujud dalam bentuk perusahaan berbagi beberapa data yang sebelumnya tidak akan dibagikan (misalnya indeks ekonomi), atau merilis teknologi dengan cara berbeda (misalnya analisis ancaman siber, yang memberikan dukungan data untuk program seperti proyek "Glass Wings").

Kami memperkirakan bahwa penelitian yang dilakukan oleh Institut TAI akan semakin menjadi acuan penting bagi Long-Term Benefit Trust (LTBT) Anthropic. Misi LTBT adalah memastikan bahwa Anthropic terus mengoptimalkan tindakannya untuk kepentingan jangka panjang umat manusia. Kami menyusun rencana penelitian ini bersama dengan LTBT dan karyawan di berbagai departemen Anthropic.

Ini adalah agenda dinamis, bukan yang tetap. Kami akan terus menyempurnakan pertanyaan-pertanyaan ini seiring dengan akumulasi bukti, dan diperkirakan akan muncul beberapa pertanyaan baru yang belum tercakup hari ini. Kami menyambut umpan balik Anda terhadap agenda ini dan akan merevisinya berdasarkan informasi yang kami peroleh dari diskusi.

Jika Anda tertarik untuk membantu kami menjawab pertanyaan-pertanyaan ini, kami menyambut Anda untuk melamar menjadi peneliti Anthropic. Program peneliti ini berlangsung selama empat bulan, dipandu oleh anggota tim TAI, di mana Anda akan memiliki kesempatan untuk meneliti satu atau lebih masalah terkait. Anda dapat mempelajari lebih lanjut dan melamar untuk siklus berikutnya di sini.

Agenda penelitian kami:

Tanggal pembaruan terakhir: 7 Mei 2026

Economic diffusion

Penting untuk memahami bagaimana penerapan sistem kecerdasan buatan yang semakin kuat mengubah ekonomi. Kita juga perlu mengembangkan data ekonomi dan kemampuan prediksi yang diperlukan untuk memilih cara penerapan kecerdasan buatan yang bermanfaat bagi publik.

Untuk menjawab pertanyaan yang diajukan dalam pilar penelitian ini, kami akan menyempurnakan data dalam Human Economic Index. Kami juga akan mengeksplorasi metode lain untuk meningkatkan model kami tentang bagaimana kecerdasan buatan yang kuat memengaruhi masyarakat, baik itu menyebabkan pengangguran, pertumbuhan ekonomi yang belum pernah terjadi sebelumnya, atau aspek lainnya.

Aplikasi dan penyebaran kecerdasan buatan

• Siapa yang mengadopsi kecerdasan buatan? Pengembangan kecerdasan buatan terfokus pada beberapa perusahaan di beberapa negara, tetapi penerapannya bersifat global. Apa yang menentukan apakah suatu negara, wilayah, atau kota dapat mengakses kecerdasan buatan? Jika dapat mengaksesnya, bagaimana mereka memperoleh nilai ekonomi darinya? Kebijakan dan model bisnis apa yang dapat secara efektif mengubah situasi ini? Bagaimana model bobot bebas atau bobot terbuka mendorong perubahan dinamis ini?
• Aplikasi kecerdasan buatan di tingkat perusahaan: Mengapa perusahaan mengadopsi kecerdasan buatan? Apa konsekuensinya? Bagaimana kecerdasan buatan mengubah skala di mana perusahaan atau tim dapat mencapai efisiensi maksimal? Seberapa terkonsentrasi penerapan kecerdasan buatan di antara perusahaan? Bagaimana perubahan dalam tingkat konsentrasi penerapan kecerdasan buatan berdampak pada margin keuntungan dan pangsa tenaga kerja? Jika sebuah tim atau perusahaan beranggotakan 3 orang sekarang mampu menyelesaikan pekerjaan yang sebelumnya memerlukan 300 orang, bagaimana struktur industri akan berubah? Atau, jika perusahaan dapat lebih mudah mengkonsentrasikan pengetahuan, dan praktik ini menghasilkan efek skala, apakah kita akan melihat perusahaan yang lebih besar dan lebih luas jangkauannya, yang memiliki insentif lebih besar untuk secara sistematis memantau karyawan?
• Apakah kecerdasan buatan merupakan teknologi umum? Apakah kecerdasan buatan mengikuti pola "teknologi umum" sebelumnya, yaitu paling cepat diadopsi dalam aplikasi bisnis yang menguntungkan, tetapi paling lambat diadopsi di bidang-bidang di mana manfaat sosial melebihi manfaat pribadi? Apakah ada kebijakan atau keputusan yang dapat mengubah tren ini?

Produktivitas dan pertumbuhan ekonomi

• Pertumbuhan produktivitas: Bagaimana kecerdasan buatan akan memengaruhi kecepatan inovasi dan pertumbuhan produktivitas seluruh ekonomi?
• Berbagi keuntungan: Mekanisme alokasi awal atau realokasi apa yang dapat secara efektif menyebarkan keuntungan dari pengembangan dan penerapan kecerdasan buatan secara lebih luas?
• Biaya transaksi pasar: Bagaimana kecerdasan buatan memengaruhi sistem transaksi dan biaya transaksi di pasar? Kapan sebaiknya agen mewakili Anda dalam negosiasi untuk meningkatkan efisiensi pasar dan hasil yang adil? Kapan tidak?

Dampak luas terhadap pasar tenaga kerja

• Kecerdasan Buatan dan Pekerjaan: Bagaimana kecerdasan buatan akan mengubah kondisi pekerjaan di berbagai sektor ekonomi? Dengan otomatisasi kecerdasan buatan terhadap proses ekonomi yang ada, tugas dan pekerjaan baru apa yang kemungkinan akan muncul? Perbedaan apa yang akan terjadi dalam perubahan ini antara berbagai wilayah dan negara? Survei “Indeks Ekonomi Manusia” kami akan menyediakan informasi bulanan tentang bagaimana orang memandang dampak kecerdasan buatan terhadap pekerjaan mereka dan harapan mereka terhadap masa depan. Kami juga akan memperbarui indeks ekonomi untuk membagikan data yang lebih sering dan lebih rinci.
• Apakah kecepatan adopsi kecerdasan buatan dapat disesuaikan? Bank sentral berbagai negara menggunakan alat-alat seperti suku bunga kebijakan dan pandangan proaktif untuk menekan inflasi. Apakah perusahaan kecerdasan buatan (secara sektor, bekerja sama dengan pemerintah) juga dapat menerapkan alat penyesuaian serupa untuk mengontrol kecepatan adopsi kecerdasan buatan secara per sektor? Apakah hal ini akan membawa manfaat publik yang signifikan?

Masa depan pekerjaan dan tempat kerja

• Pandangan pekerja terhadap pekerjaan: Bagaimana pekerja dari berbagai industri memandang perubahan profesi? Seberapa besar pengaruh mereka terhadap perubahan ini? Apakah kekuatan "pekerja" dapat dipertahankan atau diubah?
• Sistem pengembangan bakat profesional: Banyak industri bergantung pada posisi pemula (misalnya asisten hukum, analis pemula, dan pengembang asisten) untuk melatih profesional tingkat lanjut di masa depan. Jika kecerdasan buatan menggantikan pekerjaan yang sebelumnya menjadi jalur akumulasi keahlian, lalu bagaimana orang awalnya bisa menjadi ahli? Apa dampaknya terhadap cadangan tenaga ahli jangka panjang di suatu bidang?
• Pembelajaran untuk masa depan: Apa yang harus dipelajari orang hari ini untuk mempersiapkan masa depan? Apa saja pekerjaan masa depan? Bagaimana kecerdasan buatan akan mengubah cara belajar dan mengembangkan keterampilan profesional?
• Peran pekerjaan berbayar: Jika kecerdasan buatan secara signifikan mengurangi peran sentral pekerjaan berbayar dalam kehidupan manusia, dalam kondisi apa orang dapat mengalihkan waktu dan energi mereka ke sumber-sumber bermakna lainnya? Dan apa yang bisa kita pelajari dari kelompok-kelompok historis atau kontemporer yang mengalami kelangkaan atau ketidakpentingan pekerjaan? Bagaimana masyarakat seharusnya merespons perubahan ini?

Ancaman dan Ketahanan

Sistem kecerdasan buatan seringkali mampu meningkatkan berbagai kemampuan sekaligus, termasuk kemampuan ganda. Misalnya, sistem kecerdasan buatan yang meningkatkan kemampuan biologi juga lebih mudah membuat senjata biologis. Sistem kecerdasan buatan dengan kemampuan pemrograman komputer yang kuat juga lebih mudah menyerang sistem komputer. Jika kita dapat memahami ancaman yang mungkin diperburuk oleh sistem kecerdasan buatan, masyarakat akan lebih mudah merespons perubahan dalam situasi ancaman ini.

Kami mengajukan pertanyaan-pertanyaan ini untuk membantu membangun kemitraan yang memperkuat kemampuan dunia dalam menghadapi kecerdasan buatan yang transformasional dan membangun sistem peringatan dini terhadap ancaman baru yang mungkin muncul. Banyak dari pertanyaan ini akan menjadi panduan bagi agenda penelitian tim merah mutakhir kami.

Evaluasi risiko dan kapasitas ganda:

• Teknologi dual-use: Kecerdasan buatan yang kuat secara inheren bersifat dual-use: dapat digunakan sebagai alat untuk meningkatkan kesehatan dan pendidikan, maupun untuk pengawasan dan penindasan. Bisakah kita membangun alat observabilitas untuk memahami apakah hal ini sedang terjadi dan bagaimana caranya?
• Bagaimana menetapkan harga risiko secara rasional: metode apa saja yang efektif dan didorong pasar untuk meningkatkan ketahanan masyarakat terhadap ancaman yang diharapkan dari sistem kecerdasan buatan? Bisakah kita mengembangkan metode penentuan harga risiko baru, atau alat teknis dan organisasi manusia, untuk meningkatkan ketahanan sebelum ancaman yang dapat diprediksi (misalnya, peningkatan kemampuan serangan siber kecerdasan buatan) terjadi?
• Keseimbangan serangan dan pertahanan: Apakah kemampuan yang diberdayakan oleh kecerdasan buatan pada dasarnya akan menguntungkan pelaku serangan di bidang-bidang seperti ruang siber dan keamanan biologis? Ketika kecerdasan buatan diterapkan pada bidang-bidang tradisional yang lebih lama, misalnya saat semakin terintegrasi dengan sistem komando dan kendali, apakah itu juga menguntungkan pelaku serangan? Secara lebih luas, bagaimana kecerdasan buatan akan mengubah sifat konflik manusia?

Menetapkan langkah-langkah mitigasi risiko:

• Rencana respons krisis: Pada masa Perang Dingin, Presiden Amerika Serikat pernah memiliki saluran hotline langsung ke Kremlin untuk digunakan dalam kasus krisis nuklir. Lalu, jika sistem kecerdasan buatan memicu krisis, infrastruktur geopolitik seperti apa yang diperlukan? Infrastruktur ini tidak harus antar negara, tetapi bisa antar perusahaan atau antar perusahaan.
• Mekanisme pertahanan yang lebih cepat: Kemampuan kecerdasan buatan dapat membuat kemajuan signifikan dalam beberapa bulan, sementara respons regulasi, asuransi, dan infrastruktur membutuhkan bertahun-tahun. Bagaimana kita dapat menutup kesenjangan ini? Apakah mekanisme pertahanan seperti patch otomatis, deteksi ancaman kecerdasan buatan, atau kemampuan respons yang telah dideploy sebelumnya dapat mengejar kecepatan dan skala serangan kecerdasan buatan? Ataukah ketidakseimbangan ini bersifat struktural? Dan bagaimana kita dapat menerapkan mekanisme pertahanan ini seefektif mungkin?

Kemampuan intelijen untuk pemantauan

• Dampak kecerdasan buatan terhadap pengawasan: Bagaimana kecerdasan buatan akan mengubah cara pengawasan beroperasi? Apakah itu akan menurunkan biaya pengawasan, meningkatkan efisiensi pengawasan, atau keduanya?

Sistem kecerdasan buatan dalam penerapan nyata

Interaksi antara manusia, organisasi, dan sistem kecerdasan buatan akan menjadi sumber penting perubahan sosial. Memahami bagaimana sistem kecerdasan buatan dapat mengubah manusia dan lembaga yang berinteraksi dengannya merupakan bidang penelitian inti tim dampak sosial kami. Untuk meneliti perubahan-perubahan ini, kami sedang meningkatkan alat-alat yang ada dan mengembangkan alat-alat baru untuk melakukan penelitian, mencakup berbagai aspek mulai dari perangkat lunak yang meningkatkan keteramatan platform hingga alat-alat untuk melakukan survei kualitatif berskala besar.

Dampak kecerdasan buatan terhadap individu dan masyarakat:

• Epistemologi kelompok: Ketika sebagian besar populasi merujuk pada beberapa model yang sama, apa yang terjadi pada epistemologi kita? Bisakah kita menemukan cara untuk mengukur perubahan besar dalam keyakinan, gaya penulisan, dan metode pemecahan masalah yang disebabkan oleh penggunaan bersama kecerdasan buatan?
• Pemikiran kritis: Seiring dengan semakin kuat dan dapat dipercayanya sistem kecerdasan buatan, bagaimana kita mendeteksi dan mencegah penurunan kemampuan pemikiran kritis manusia akibat ketergantungan yang semakin besar pada penilaian kecerdasan buatan?
• Antarmuka teknis: Antarmuka teknis menentukan bagaimana orang berinteraksi dengan teknologi—televisi membuat orang menjadi penonton pasif, sementara komputer membuat orang lebih mudah menjadi pencipta kreatif. Antarmuka seperti apa yang bisa kita bangun agar sistem kecerdasan buatan dapat meningkatkan dan mempromosikan otonomi manusia?
• Manajemen sistem kolaborasi manusia-mesin: Bagaimana manusia secara efektif mengelola tim yang terdiri dari manusia dan sistem kecerdasan buatan? Sebaliknya, bagaimana sistem kecerdasan buatan harus mengelola tim yang terdiri dari manusia, kecerdasan buatan, atau keduanya?

Mengenali dampak signifikan yang dibawa oleh kecerdasan buatan:

• Dampak perilaku: Seperti media sosial yang mengubah perilaku manusia, kecerdasan buatan juga dapat membentuk perilaku manusia. Metode pemantauan atau pengukuran apa yang dapat membantu peneliti memahami dinamika perubahan ini?
• Mendorong penelitian: Apakah ada mekanisme dan alat transparan yang memungkinkan masyarakat luas (bukan hanya perusahaan kecerdasan buatan terkini) dengan mudah meneliti penerapan kecerdasan buatan di dunia nyata?

Memahami dan mengelola model kecerdasan buatan:

• Sistem "nilai": Apa yang dimaksud dengan "nilai" yang diungkapkan oleh sistem kecerdasan buatan? Bagaimana nilai-nilai ini terkait dengan cara pelatihan sistem? Lebih spesifik lagi, bagaimana kita mengukur dampak "komposisi" kecerdasan buatan terhadap perilakunya setelah diterapkan? Kami akan memperluas penelitian sebelumnya mengenai pertanyaan-pertanyaan ini.
• Tata kelola agen otonom: Aspek-aspek hukum, tata kelola, dan mekanisme akuntabilitas yang ada mana yang dapat diterapkan pada agen AI otonom? Misalnya, hukum maritim bagaimana menangani masalah kapal yang ditinggalkan, yang terkait dengan bagaimana hukum menangani agen cerdas tanpa pengawasan. Sebaliknya, apakah ada aspek-aspek dalam hukum yang ada yang sudah diterapkan pada agen AI tetapi sebenarnya tidak seharusnya diterapkan?
• Keandalan agen: Aspek-aspek apa dari agen kecerdasan buatan otonom yang dapat disesuaikan agar sesuai dengan hukum, tata kelola, dan mekanisme akuntabilitas yang ada? Misalnya, apakah kita dapat memastikan bahwa agen kecerdasan buatan memiliki identitas unik dan andal, bahkan tanpa kendali manusia langsung?
• Mengelola kecerdasan buatan dengan kecerdasan buatan: Bagaimana kita dapat memanfaatkan kecerdasan buatan secara efektif untuk mengelola sistem kecerdasan buatan? Di bidang regulasi kecerdasan buatan mana manusia memiliki keunggulan komparatif, atau secara hukum atau normatif diwajibkan untuk "terlibat"?
• Interaksi agen: Norma apa yang muncul ketika agen kecerdasan buatan berinteraksi satu sama lain? Bagaimana agen yang berbeda mengekspresikan preferensi yang berbeda, dan bagaimana preferensi tersebut memengaruhi agen lain?

Riset dan pengembangan yang didorong oleh kecerdasan buatan

Seiring dengan meningkatnya kemampuan sistem kecerdasan buatan, para ilmuwan semakin memanfaatkannya untuk melakukan berbagai penelitian. Ini berarti semakin banyak penelitian ilmiah yang dilakukan secara otonom atau semi-otonom dengan sedikit intervensi manusia. Di bidang penelitian kecerdasan buatan, sistem yang semakin canggih dapat digunakan untuk mengembangkan versi berikutnya mereka sendiri. Kami terkadang menyebut pola ini sebagai "pengembangan kecerdasan buatan yang didorong oleh kecerdasan buatan".

Pengembangan AI yang didorong oleh AI mungkin merupakan "keuntungan alami" dalam menciptakan sistem yang lebih cerdas dan lebih kuat. Seperti kemajuan dalam kemampuan pemrograman yang memicu kemampuan jaringan yang dapat digunakan untuk keperluan militer dan sipil, kemajuan dalam kemampuan ilmiah mungkin juga memicu kemampuan biologis yang dapat digunakan untuk keperluan militer dan sipil, kemajuan dalam pekerjaan teknis yang kompleks juga mungkin secara alami menghasilkan sistem AI yang mampu mengembangkan AI sendiri.

Pengembangan kecerdasan buatan yang didorong oleh kecerdasan buatan sendiri mengandung risiko potensial yang besar. Saat mengevaluasi langkah-langkah yang dapat diambil, sangat penting bagi pembuat kebijakan untuk memahami tren perubahan kecepatan perkembangan kecerdasan buatan, serta apakah penelitian kecerdasan buatan akan mulai menghasilkan efek bunga majemuk.

Artificial intelligence for artificial intelligence development

• Tata kelola pengembangan kecerdasan buatan: Jika sistem kecerdasan buatan digunakan untuk mengembangkan dan meningkatkan dirinya sendiri secara otonom, bagaimana manusia dapat secara efektif memahami dan mengendalikan sistem-sistem ini? Pada akhirnya, apa yang akan mengatur sistem-sistem ini?
• Latihan tanggap darurat informasi ledakan: Bagaimana kita melakukan latihan tanggap darurat informasi ledakan? Bagaimana cara menjalankan latihan meja agar benar-benar menguji kemampuan pengambilan keputusan pemimpin laboratorium, dewan, dan pemerintah?
• Telemetri pengembangan AI: Bagaimana kita mengukur kecepatan keseluruhan pengembangan AI? Teknologi telemetri dan dukungan infrastruktur apa yang diperlukan untuk mengumpulkan informasi ini? Bagaimana indikator yang terkait dengan pengembangan AI dapat berfungsi sebagai sinyal peringatan dini untuk peningkatan diri rekursif?
• Mengendalikan percepatan perkembangan kecerdasan buatan: Jika ledakan kecerdasan akan segera terjadi, titik intervensi apa yang dapat memperlambat atau mengubah kecepatan ledakan ini? Asumsikan manusia dapat melakukan intervensi, entitas mana yang seharusnya menjalankan kemampuan ini—pemerintah? Perusahaan?

Penerapan kecerdasan buatan di bidang penelitian dan pengembangan—yaitu penelitian di bidang lain yang didorong oleh kecerdasan buatan:

• Pohon teknologi: Kecerdasan buatan mempercepat perkembangan beberapa bidang ilmiah jauh lebih cepat daripada yang lain, tergantung pada ketersediaan data, indikator evaluasi, serta seberapa banyak pengetahuan bersifat implisit atau dibatasi oleh institusi. Seberapa tidak seimbangkah gradien perkembangan ini? Perubahan yang dihasilkan dari kemajuan ilmiah berarti masalah manusia apa yang akan diprioritaskan untuk diselesaikan?
• Frontier yang bergelombang: Kemampuan model lebih kuat di beberapa bidang dibandingkan yang lain. Bidang-bidang dengan eksternalitas positif besar—seperti pengembangan obat dan ilmu material—mendapatkan investasi jauh lebih rendah daripada yang seharusnya sesuai nilainya. Pasar mengarahkan perbaikan model berdasarkan pengembalian pribadi, tetapi bisakah kita meningkatkan kinerja model untuk mengatasi eksternalitas sosial?

Artikel ini berasal dari akun WeChat "Value Research Institute" (ID: jiazhiyanjiusuo), penulis: Dingxi