Peneliti Anthropic Mengundurkan Diri, Memperingatkan AI Bisa Kehilangan Kendali pada Akhir 2027

iconKuCoinFlash
Bagikan
AI summary iconRingkasan
Seorang peneliti AI dari Anthropic, Jacob Coxon, telah mengundurkan diri dan berencana keluar dari industri AI. Ia pernah bekerja di OpenAI dan Anthropic, mengkritik percepatan pengembangan AGI tanpa langkah keamanan yang memadai. Coxon memperingatkan bahwa AI bisa kehilangan kendali pada tahun 2027, menekankan bahwa tren industri dalam pengembangan AI bergerak terlalu cepat. Ia berpendapat bahwa keputusan penting harus melibatkan lebih dari sekadar insinyur. Perkembangan ini menambah kabar terkini tentang AI + kripto mengenai masa depan tata kelola AI.
ME AI Berita, Beating AI Berita Cepat, peneliti Anthropic Jacob Coxon mengumumkan pengunduran dirinya dan bersiap meninggalkan industri AI. Selama tiga tahun terakhir, ia melakukan penelitian pra-pelatihan di OpenAI dan Anthropic. Ia menunjukkan bahwa kedua perusahaan tidak maju secara bertanggung jawab dalam pengembangan AI, justru saling berlomba menciptakan superintelligence yang dapat terus meningkatkan kemampuan dirinya sendiri, “menggadaikan nyawa kita.” Coxon pindah dari OpenAI ke Anthropic tahun ini karena yang terakhir lebih menekankan keamanan model. Ia mengakui bahwa upaya keamanan Anthropic serius, tetapi berpendapat bahwa selama perusahaan-perusahaan masih berlomba menjadi yang pertama menciptakan AGI (AI umum yang mampu melebihi manusia dalam berbagai tugas), kompromi terhadap keamanan sulit dihindari, dan kedisiplinan tunggal dari satu perusahaan tidak cukup untuk menyelesaikan masalah ini. Penilaianya terhadap kedua perusahaan: Banyak orang di OpenAI belum benar-benar menyadari seberapa besar risikonya; Anthropic memahami risikonya, tetapi percaya bahwa pihak lain tidak dapat diandalkan, sehingga harus menjadi yang pertama membuatnya. Coxon menyatakan bahwa beberapa praktisi AI secara pribadi jauh lebih pesimis daripada pernyataan publik mereka, bahkan khawatir AI dapat menghancurkan umat manusia sebelum akhir dekade ini. Ia memperkirakan, dalam skenario paling ekstrem, AI bisa kehilangan kendali pada akhir tahun depan, sehingga keputusan semacam ini seharusnya tidak hanya ditentukan oleh insinyur di dalam beberapa perusahaan saja. (Sumber: BlockBeats)
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.