Greg Jensen, penasihat pelaburan bersama di Bridgewater Associates, memberikan salah satu penilaian paling suram mengenai peraturan AI hingga kini pada 11 September. Hujah utamanya: sejarah menunjukkan bahawa kerajaan tidak akan bertindak sehingga sesuatu yang benar-benar buruk berlaku.
“Hingga AI mulai membunuh orang, sayangnya, sejarah menunjukkan bahawa kita tidak akan melakukan apa-apa,” kata Jensen, membandingkan masa kini dengan Februari 2020, apabila COVID-19 sudah merebak secara global tetapi kebanyakan kerajaan belum lagi menggerakkan tindakan balas.
Seminggu peringatan yang semakin meningkat
Komen Jensen menandakan siri hari yang menyaksikan pelbagai tokoh terkemuka menyuarakan kebimbangan serius terhadap arah pembangunan AI. Pada 9 dan 10 September, penyelidik di Anthropic, termasuk Jacob Coxon dan Evan Hubinger, mengeluarkan amaran tegas mengenai kelajuan semasa penyelidikan AI.
Coxon mengundurkan diri daripada Anthropic semasa jangka masa itu, dengan mengutip risiko-risiko yang telah dikaji daripada dalam. Kedua-dua penyelidik memperingatkan bahawa lintasan semasa bidang ini boleh menghasilkan superinteligens yang meningkatkan diri sendiri, jenis sistem yang tidak hanya mengikuti arahan tetapi menulis semula kemampuan mereka sendiri.
Anggaran mereka mengejutkan: kebarangkalian lebih daripada 10% kepunahan manusia akibat AI dalam dekad akan datang.
Jensen mencadangkan satu insiden besar berkaitan AI boleh berlaku dalam tempoh dua tahun ke depan jika tiada langkah proaktif diambil.
Washington mula memperhatikan
Ahli Kongres AS, termasuk Rep. Lori Trahan dan Senator Ted Cruz, mendorong tindakan undang-undang pada 9 dan 10 September, menyeru kerangka kerja yang akan memerlukan transparansi daripada pembangun AI dan menubuhkan mekanisme jeda kecemasan untuk model berisiko tinggi.
Cadangan-cadangan ini membina atas kerja yang dilakukan oleh panel bebas PBB, yang mengeluarkan laporan pada Julai yang menandakan pertumbuhan pantas kemampuan AI. Penemuan utama panel itu adalah tidak selesa: AI sedang berkembang lebih pantas daripada pemahaman ilmiah dan dasar kerajaan boleh ikut.
Panel PN memperingatkan secara khusus mengenai perkembangan tanpa sengaja sistem penipuan atau agen, AI yang boleh mengejar matlamat secara autonom dan berpotensi menipu manusia yang mengawasinya.