Seorang peneliti yang telah melatih model selama tiga tahun di Anthropic mengundurkan diri dan menuliskan alasannya di tempat yang dapat dilihat semua orang 🧐 Jacob Coxon, berusia 27 tahun. Sebelumnya bekerja di OpenAI, lalu di Anthropic di bidang pretraining. Saat meninggalkan perusahaan, ia merangkumnya dalam satu kalimat: laboratorium sedang berlomba menuju kecerdasan buatan yang mengembangkan dirinya sendiri, dan mereka melakukannya melalui kehidupan kita semua. Bagian yang paling menarik perhatian adalah yang berikutnya 👇 Evan Hubinger, yang bertanggung jawab atas ilmu alignment di Anthropic, keluar dan membenarkannya. Perkiraannya sendiri: dalam sepuluh tahun ke depan, kemungkinan kecerdasan buatan akan menghancurkan kita semua lebih dari 10%. Ia mengatakan risiko pada model saat ini rendah, tetapi yang ditakutkannya adalah pengembangan diri berulang. Tidak biasa bagi seorang petinggi keamanan perusahaan untuk secara terbuka mengatakan hal semacam ini 😳 Perdebatan segera beralih ke politik 🏛️ Undang-undang Ban Artificial Superintelligence Act yang diumumkan Bernie Sanders dan Greg Casar pada 3 September sudah ada di meja: larangan permanen terhadap superintelligence, pembentukan lembaga federal baru untuk menyusun aturan keamanan, jeda sementara pada model-model baru hingga aturan itu ditetapkan, hukuman penjara hingga 20 tahun untuk pelanggaran, dan likuidasi wajib bagi perusahaan. Pihak lawan juga tidak diam 🤨 Waktu pengunduran diri tersebut, fakta bahwa kutipan-kutipan utama berasal dari lembaga kebijakan yang didanai oleh dana yang sama, serta keselarasan tepat dengan rancangan undang-undang tersebut, membuat sebagian orang berseru: “Ini bukan organik, ini operasi penangkapan regulasi.” Jadi ada dua narasi: either peringatan tulus dari jantung industri, atau operasi penyusunan aturan untuk menghalangi pesaing. Kemungkinan keduanya benar secara bersamaan juga ada. Sementara itu, Anthropic hari ini merilis laporan intelijen ancaman paling rinci sepanjang sejarahnya. Laporan ini menjelaskan upaya penyalahgunaan model untuk serangan siber, operasi pengaruh, dan pengawasan. Dokumen yang sangat baik bagi mereka yang ingin memahami dasar perdebatan ini 📄 Menurutmu, mana yang lebih meyakinkan: peringatan tulus atau lobi yang dirancang dengan baik? 🤔 Konten ini hanya untuk tujuan informasi, bukan saran investasi atau konsultasi investasi.