Penyelidik Anthropic Mengundurkan Diri, Memperingatkan AI Boleh Kehilangan Kawalan Pada Akhir 2027

iconKuCoinFlash
Kongsi
AI summary iconRingkasan
Seorang penyelidik AI daripada Anthropic, Jacob Coxon, telah mengundurkan diri dan merancang untuk keluar daripada industri AI. Beliau pernah bekerja di OpenAI dan Anthropic, mengkritik kecekapan mereka dalam membangunkan AGI tanpa langkah keselamatan yang mencukupi. Coxon memperingatkan bahawa AI mungkin kehilangan kawalan pada 2027, menekankan bahawa trend industri dalam pembangunan AI bergerak terlalu pantas. Beliau berhujah bahawa keputusan penting harus melibatkan lebih daripada hanya jurutera. Perkembangan ini menambah berita AI + crypto yang sedang berlangsung mengenai masa depan tatacara AI.
ME AI Mesej, Berita Cepat Beating AI, penyelidik Anthropic, Jacob Coxon, mengumumkan pengunduran dirinya dan bersiap meninggalkan industri AI. Selama tiga tahun terakhir, beliau menjalankan penyelidikan pra-pelatihan di OpenAI dan Anthropic. Beliau menekankan bahawa kedua-dua syarikat tidak memajukan AI dengan tanggungjawab, malah bersaing untuk mencipta superintelligence yang boleh terus meningkatkan kemampuan sendiri, “menggadaikan nyawa kita.” Coxon berpindah dari OpenAI ke Anthropic tahun ini kerana beliau percaya bahawa syarikat terakhir lebih mengutamakan keselamatan model. Beliau mengakui bahawa usaha keselamatan Anthropic adalah serius, tetapi berpendapat bahawa selagi syarikat-syarikat lain terus berlumba menjadi yang pertama mencipta AGI (AI generik yang mampu melebihi manusia dalam banyak tugas), kompromi keselamatan akan sukar dielakkan, dan kesedaran diri oleh satu syarikat sahaja tidak cukup untuk menyelesaikan masalah ini. Penilaian beliau terhadap kedua-dua syarikat: ramai orang di OpenAI belum benar-benar sedar betapa besarnya risiko ini; Anthropic sedar akan risiko tersebut, tetapi percaya bahawa pihak lain tidak boleh dipercayai, jadi mereka mesti menjadi yang pertama membuatnya. Coxon menyatakan bahawa beberapa ahli AI secara peribadi jauh lebih pesimis berbanding pernyataan awam mereka, bahkan bimbang bahawa AI mungkin menghancurkan manusia sebelum akhir dekad ini. Beliau menilai bahawa dalam skenario paling ekstrem, AI mungkin sudah kehilangan kawalan pada akhir tahun depan, oleh itu keputusan seperti ini tidak sepatutnya dibuat hanya oleh jurutera beberapa syarikat secara dalaman. (Sumber: BlockBeats)
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.