Seorang penyelidik yang telah melatih model selama tiga tahun di Anthropic mengundurkan diri dan menulis alasanannya di tempat yang dapat dilihat semua orang 🧐 Jacob Coxon, berusia 27 tahun, sebelumnya bekerja di bagian pretraining di OpenAI, lalu di Anthropic. Saat meninggalkan perusahaan, ia merangkumnya dalam satu kalimat: laboratorium sedang berlomba menuju kecerdasan buatan yang meningkatkan dirinya sendiri, dan mereka melakukannya melalui kehidupan kita semua. Bagian yang paling menarik perhatian adalah yang berikutnya 👇 Evan Hubinger, yang bertanggung jawab atas ilmu penyesuaian di Anthropic, keluar dan mengonfirmasi hal ini. Perkiraannya sendiri: peluang kecerdasan buatan menghancurkan kita semua dalam sepuluh tahun ke depan lebih dari 10%. Ia menyatakan bahwa risiko pada model saat ini rendah, tetapi yang ditakutkannya adalah pengembangan diri berulang. Tidak biasa bagi seorang petinggi keamanan perusahaan untuk secara terbuka mengatakan hal semacam ini 😳 Perdebatan segera beralih ke ranah politik 🏛️ Undang-undang Ban Artificial Superintelligence Act yang diumumkan oleh Bernie Sanders dan Greg Casar pada 3 September sudah ada di meja: larangan permanen terhadap kecerdasan super, pembentukan lembaga federal baru untuk menyusun aturan keamanan, jeda sementara pada model-model baru hingga aturan itu dirumuskan, hukuman penjara hingga 20 tahun untuk pelanggaran, serta likuidasi wajib bagi perusahaan. Pihak lawan juga tidak diam 🤨 Waktu pengunduran diri tersebut, fakta bahwa kutipan-kutipan awal sebagian besar berasal dari lembaga kebijakan yang didanai oleh dana yang sama, serta keselarasan tepat dengan rancangan undang-undang tersebut, membuat sejumlah pihak berseru: “Ini bukan organik, ini operasi penangkapan regulasi.” Artinya, ada dua narasi: either peringatan tulus dari jantung industri, atau operasi penyusunan aturan untuk menghalangi pesaing. Kemungkinan keduanya benar secara bersamaan juga ada. Sementara itu, Anthropic hari ini merilis laporan intelijen ancaman paling rinci sepanjang sejarahnya. Laporan ini menjelaskan upaya penyalahgunaan model untuk serangan siber, operasi pengaruh, dan pengawasan. Dokumen yang sangat baik bagi mereka yang ingin memahami dasar perdebatan ini 📄 Menurutmu, mana yang lebih meyakinkan: peringatan tulus atau lobi yang dirancang dengan baik? 🤔 Konten ini disajikan hanya untuk tujuan informasi, bukan sebagai saran investasi atau konsultasi investasi.