Bapa angkat AI baru sahaja menjelaskan bahaya AI mana yang benar-benar dapat diselesaikan dan mana yang tidak akan pernah terselesaikan. Dalam satu ayat, kebanyakan orang terus menggulir. Geoffrey Hinton, lelaki yang penyelidikannya membina AI moden, duduk untuk meninjau peraturan yang sedang dicadangkan sekarang. Bahagian yang boleh disalin ialah kisah ketakutan. Bahagian yang berguna ialah penapis yang dia berikan kepada anda. Ini dia. Negara-negara bekerjasama apabila kepentingan mereka selari. Mereka tidak bekerjasama apabila kepentingan mereka bertembung. Peraturan satu ini memberitahu anda bahaya AI mana yang akan ditangani dan mana yang akan diabaikan. Tonton bagaimana ia mengasingkan semuanya dengan bersih. Ambil contoh deepfake pilihan raya, video palsu yang dibina untuk mempengaruhi undi. Setiap negara sudah melakukan ini kepada negara lain. Kepentingan mereka bertembung. Oleh itu, tiada siapa yang benar-benar menghentikannya. Jangkakan bunyi dan tiada penyelesaian sebenar. Sekarang ambil AI itu sendiri yang menjadi liar dan mengambil kawalan. Tiada kerajaan pun ingin itu. Bukan AS. Bukan China. Di sana, kepentingan mereka benar-benar selari, dan itulah satu-satunya sebab mengapa persetujuan sebenar mungkin berlaku. Lens yang sama, jawapan yang bertentangan. Itulah petanda untuk setiap headline AI yang akan datang. Kemudian dia menghancurkan dua penyelesaian yang popular tetapi tidak berkesan. Pertama, suis mati. Butang untuk mematikan AI yang tidak terkawal. Masalahnya dengan suis ini hampir lucu. Sistem superintelejen akan lebih baik daripada mana-mana manusia dalam hal persuasi. Ia hanya akan berbual dengan orang yang menjaga suis itu hingga dia tidak menariknya. Dia berkata ia sudah sepersuasif manusia. Suis tidak akan menyelamatkan anda daripada sesuatu yang boleh mengubah fikiran siapa pun yang memegangnya. Kedua, perangkap framing yang ingin lab-lab anda terima. Mereka memberitahu anda bahawa kemajuan AI ialah akselerator dan peraturan ialah brek. Peraturan hanya memperlambatkan semua orang. Hinton membalikkannya. Kemajuan ialah akselerator. Peraturan ialah roda pemegang. Apa yang lab-lab benar-benar mahu ialah kereta pantas tanpa cara untuk memandunya. Dikatakan seperti itu, keseluruhan perdebatan berubah bentuk. Jadi, apakah pendapatnya tentang apa yang harus kita lakukan? Bukan mengurung sesuatu yang lebih pintar di bawah kuasa kita. Dia meragui bahawa ia akan berkesan. Gambarannya lebih aneh dan lebih jujur. Satu-satunya kes yang kita ada tentang sesuatu yang lebih pintar dipandu oleh sesuatu yang kurang pintar ialah bayi dan ibu. Ibu yang bertanggungjawab. Tetapi bayi menggerakkannya, kerana dia tidak tahan mendengarnya menangis. Ramalannya ialah kita membina superintelejen supaya benar-benar peduli kepada kita, lebih daripada ia peduli kepada dirinya sendiri, secara sengaja, semasa kita masih merekanya. Bukan sangkar. Sebuah hubungan. Dan dia jujur bahawa kita belum tahu bagaimana caranya. Adakah dia optimis? Kata tepatnya ialah tidak. Dia berharap. Dan dia fikir jendela di mana pilihan kita masih menentukan kesudahan sedang terbuka sekarang dan semakin tertutup. Satu baris daripada laporan sekitarnya yang paling melekat dalam ingatan saya. Jurutera-jurutera yang mengingatkan bukan melakukannya demi wang. Mereka mempunyai leveraj hari ini hanya kerana peperangan bakat membuat mereka sukar digantikan. Ketakutan senyap ialah bahawa sekali AI boleh memperbaiki dirinya sendiri, orang-orang yang paling faham tentangnya akan kehilangan leveraj yang mereka gunakan untuk memperlambatkannya. Baca dua kali. Orang-orang yang paling berposisi untuk memperingatkan kita berada di bawah masa yang sedang dipendekkan oleh AI itu sendiri. Jadi, setiap kali headline keselamatan AI muncul, lewati ketakutan dan gunakan penapis ini. Adakah kepentingan mereka selari atau bertembung? Soalan tunggal ini memberitahu anda jika penyelesaian itu sebenar atau hanya sandiwara. Perjuangan AI hari ini mana yang benar-benar boleh diselesaikan, dan mana yang hanya semua orang berpura-pura?