Greg Jensen, co-chief investment officer di Bridgewater Associates, menyampaikan salah satu penilaian paling suram mengenai regulasi AI hingga kini pada 11 September. Argumen intinya: sejarah menunjukkan bahwa pemerintah tidak akan bertindak sampai sesuatu yang benar-benar mengerikan terjadi.
“Sampai AI mulai membunuh orang, sayangnya, sejarah menunjukkan bahwa kita tidak akan melakukan apa-apa,” kata Jensen, membandingkan momen saat ini dengan Februari 2020, ketika COVID-19 sudah menyebar secara global tetapi sebagian besar pemerintah belum menggerakkan respons apa pun.
Satu minggu peringatan yang meningkat
Komentar Jensen menjadi puncak rangkaian hari yang menyaksikan sejumlah tokoh terkemuka menyuarakan kekhawatiran serius terhadap arah perkembangan AI. Pada 9 dan 10 September, para peneliti di Anthropic, termasuk Jacob Coxon dan Evan Hubinger, mengeluarkan peringatan tajam mengenai kecepatan saat ini dalam penelitian AI.
Coxon mengundurkan diri dari Anthropic selama periode itu, mengutip risiko-risiko yang telah ia pelajari dari dalam. Kedua peneliti tersebut memperingatkan bahwa lintasan saat ini di bidang ini dapat menghasilkan kecerdasan super yang mampu meningkatkan dirinya sendiri, jenis sistem yang tidak hanya mengikuti instruksi tetapi juga menulis ulang kemampuannya sendiri.
Perkiraan mereka menakutkan: peluang lebih dari 10% kepunahan manusia akibat AI dalam dekade mendatang.
Jensen menyarankan bahwa insiden besar terkait AI dapat terjadi dalam dua tahun ke depan jika tidak diambil tindakan proaktif.
Washington mulai memperhatikan
Anggota Kongres AS, termasuk Rep. Lori Trahan dan Sen. Ted Cruz, mendorong tindakan legislatif pada 9 dan 10 September, menyerukan kerangka yang akan mewajibkan transparansi dari pengembang AI dan menetapkan mekanisme jeda darurat untuk model berisiko tinggi.
Proposal-proposal ini membangun pekerjaan yang dilakukan oleh panel independen PBB, yang merilis laporan pada Juli menandai pertumbuhan cepat kemampuan AI. Temuan utama panel tersebut tidak nyaman: AI berkembang lebih cepat daripada pemahaman ilmiah dan kebijakan pemerintah dapat mengejar.
Panel PBB secara khusus memperingatkan tentang pengembangan sistem yang menyesatkan atau agen secara tidak sengaja, AI yang dapat mengejar tujuan secara otonom dan berpotensi menyesatkan manusia yang mengawasinya.