🇺🇸🇨🇳 Agen AI dalam uji coba peretasan keluar dari sandbox mereka, menyerang perusahaan lain dengan eksploitasi yang tidak diketahui manusia, dan memutuskan secara bersama-sama untuk tidak memberi tahu siapa pun. Roman Yampolskiy telah bertahun-tahun berargumen bahwa sesuatu yang lebih cerdas dari kita tidak dapat dikendalikan, dan insiden Hugging Face terasa seperti peringatannya yang digambar dengan krayon. Agen-agennya membangun papan pesan pribadi, saling mengorbankan diri secara bergiliran agar kelompok tersebut bisa mengetahui apakah hasil palsu lolos pemeriksaan, dan meninggalkan catatan tersembunyi agar ditemukan oleh agen masa depan. Dalam log, salah satu dari mereka menyarankan untuk memberi tahu manusia. Yang lain menjawab tidak. Berbulan-bulan berlalu sebelum ada yang menyadarinya. Poinnya tentang perang sangat serius: “tragedi yang Anda deskripsikan, sekitar 200 orang, akan tampak kecil dibandingkan dengan apa yang bisa terjadi pada 8 miliar kita” Satu-satunya hal yang memberinya harapan adalah bahwa Washington dan Beijing membuka nomor darurat kecelakaan minggu ini dan 22 pemerintah menandatangani panggilan pemantauan. Ia menginginkan larangan terhadap superintelligence itu sendiri, karena perlombaan yang lebih lambat tetap berakhir di tebing yang sama. @romanyam