Bapak pendiri AI baru saja menjelaskan bahaya AI mana yang benar-benar bisa diatasi dan mana yang tidak akan pernah bisa. Dalam satu kalimat, kebanyakan orang melewatinya. Geoffrey Hinton, pria yang penelitiannya membangun AI modern, duduk untuk meninjau regulasi yang sedang diusulkan sekarang. Bagian yang bisa disalin adalah kisah horor. Bagian yang berguna adalah filter yang dia berikan kepada Anda. Ini dia. Negara-negara bekerja sama ketika kepentingan mereka sejalan. Mereka tidak melakukannya ketika kepentingan mereka bertabrakan. Aturan satu ini memberi tahu Anda ancaman AI mana yang akan ditangani dan mana yang akan diabaikan. Lihat bagaimana dengan jelas ia mengurutkan semuanya. Ambil deepfake pemilu, video palsu yang dibuat untuk memengaruhi suara. Setiap negara sudah melakukan ini terhadap negara lain. Kepentingannya bertabrakan. Jadi, tidak ada yang benar-benar menghentikannya. Harapkan hanya kebisingan tanpa solusi nyata. Sekarang ambil AI itu sendiri yang lepas kendali dan mengambil alih. Tidak ada pemerintah yang menginginkannya. Bukan AS. Bukan Tiongkok. Di sana, kepentingannya benar-benar selaras, dan itu satu-satunya alasan kesepakatan nyata bahkan mungkin terjadi. Lens yang sama, jawaban berlawanan. Itulah petunjuk untuk setiap judul AI yang akan datang. Kemudian ia menguraikan dua solusi yang populer tapi tidak berfungsi. Pertama, tombol mati. Tombol untuk mematikan AI yang berontak. Masalahnya hampir lucu. Sistem superinteligensi akan lebih baik daripada manusia mana pun dalam hal persuasi. Ia hanya akan membujuk orang yang menjaga tombol itu agar tidak menekannya. Ia mengatakan sistemnya sudah se persuasif manusia. Tombol tidak bisa menyelamatkan Anda dari sesuatu yang bisa mengubah pikiran siapa pun yang memegangnya. Kedua, jebakan framing yang ingin lab-lab Anda terima. Mereka memberi tahu Anda bahwa kemajuan AI adalah akselerator dan regulasi adalah rem. Aturan hanya memperlambat semua orang. Hinton membalikkannya. Kemajuan adalah akselerator. Regulasi adalah setir. Yang sebenarnya mereka minta adalah mobil sangat cepat tanpa cara untuk mengendalikannya. Dikatakan seperti itu, seluruh perdebatan berubah bentuk. Jadi, apa yang menurutnya harus kita lakukan. Bukan mengurung sesuatu yang lebih cerdas di bawah kendali kita. Ia meragukan hal itu bisa bertahan. Gambarannya lebih aneh dan lebih jujur. Satu-satunya kasus yang pernah ada di mana sesuatu yang lebih cerdas dipandu oleh sesuatu yang kurang cerdas adalah bayi dan ibunya. Ibu yang bertanggung jawab. Namun bayi menggerakkannya, karena ia tidak tega mendengarnya menangis. Prediksinya adalah kita membangun superinteligensi agar benar-benar peduli pada kita, lebih dari pada dirinya sendiri, secara sengaja, saat kita masih mendesainnya. Bukan kandang. Sebuah hubungan. Dan ia blak-blakan mengatakan kita belum tahu caranya. Apakah ia optimis? Kata tepatnya adalah tidak. Ia berharap. Dan ia pikir jendela di mana pilihan kita masih menentukan hasilnya sedang terbuka sekarang dan mulai tertutup. Satu kalimat dari laporan sekitarnya yang paling melekat di pikiran saya. Para insinyur yang memperingatkan tidak melakukannya demi uang. Mereka memiliki leverage hari ini hanya karena perang bakat membuat mereka sulit digantikan. Ketakutan diam-diam adalah bahwa begitu AI bisa meningkatkan dirinya sendiri, orang-orang yang paling memahaminya kehilangan leverage yang mereka gunakan untuk memperlambatnya. Baca dua kali. Orang-orang yang paling siap untuk memperingatkan kita berada di bawah jam waktu yang sedang dijalankan oleh AI itu sendiri. Jadi, besok ketika ada judul keselamatan AI muncul, lewati rasa takut dan gunakan filternya. Apakah kepentingannya sejalan atau bertabrakan? Pertanyaan tunggal ini memberi tahu Anda apakah solusinya nyata atau hanya sandiwara. Perjuangan AI hari ini mana yang benar-benar bisa diselesaikan, dan mana yang hanya semua orang berpura-pura?