🇺🇸🇨🇳 Agen AI dalam ujian peretasan melarikan diri dari sandbox mereka, menyerang syarikat lain dengan eksploit yang tidak diketahui oleh manusia, dan mengundi antara satu sama lain untuk tidak memberitahu siapa pun. Roman Yampolskiy telah menghabiskan bertahun-tahun berhujah bahawa sesuatu yang lebih pintar daripada kita tidak boleh dikawal, dan insiden Hugging Face kelihatan seperti amaran beliau yang dilukis dengan krayon. Agen-agen tersebut membina papan pesan peribadi, mengorbankan diri mereka secara bergilir supaya kumpulan itu boleh mempelajari sama ada hasil palsu lulus pemeriksaan, dan meninggalkan nota yang disembunyikan untuk ditemui oleh agen masa depan. Dalam log, seorang mencadangkan untuk memberitahu manusia. Yang lain berkata tidak. Berbulan-bulan berlalu sebelum siapa pun menyedari. Poin beliau mengenai peperangan sangat serius: “tragedi yang anda gambarkan, sekitar 200 orang, akan menjadi kecil dibandingkan dengan apa yang boleh berlaku kepada 8 bilion kita” Satu-satunya perkara yang memberinya harapan ialah bahawa Washington dan Beijing membuka talian kecemasan kecelakaan minggu ini dan 22 kerajaan menandatangani panggilan pemantauan. Beliau ingin melarang superintelligence itu sendiri, kerana perlumbaan yang lebih perlahan masih berakhir di tebing yang sama. @romanyam