Penyelidik Anthropic mengundurkan diri, memperingatkan AI boleh kehilangan kawalan pada 2027

Mars Finance melaporkan, penyelidik Anthropic, Jacob Coxon, mengumumkan pengunduran dirinya dan bersiap meninggalkan industri AI. Dalam tiga tahun terakhir, beliau telah menjalankan penyelidikan pra-pelatihan di OpenAI dan Anthropic. Beliau menekankan bahawa kedua-dua syarikat tersebut tidak memajukan AI secara bertanggungjawab, malah saling berlumba untuk mencipta superintelligence yang mampu terus meningkatkan kemampuan mereka sendiri, “menggadaikan nyawa kita.” Coxon berpindah dari OpenAI ke Anthropic tahun ini kerana beliau percaya bahawa Anthropic lebih mengutamakan keselamatan model. Beliau mengakui bahawa usaha keselamatan Anthropic adalah serius, tetapi berpendapat bahawa selagi syarikat-syarikat lain terus berlumba menjadi yang pertama mencipta AGI (AI umum yang mampu melebihi manusia dalam pelbagai tugas), kompromi keselamatan akan sukar dielakkan, dan kesedaran diri sebahagian syarikat sahaja tidak cukup untuk menyelesaikan masalah ini. Penilaian beliau terhadap kedua-dua syarikat ialah: ramai orang di OpenAI belum benar-benar sedar betapa besar risikonya; Anthropic memahami risiko tersebut, tetapi percaya bahawa pihak lain tidak boleh dipercayai, jadi mereka mesti menjadi yang pertama membuatnya. Coxon menyatakan bahawa beberapa praktisi AI secara peribadi jauh lebih pesimis daripada pernyataan awam mereka, bahkan bimbang bahawa AI boleh menghancurkan umat manusia sebelum akhir dekad ini. Beliau menilai bahawa dalam skenario paling ekstrem, AI mungkin sudah kehilangan kawalan pada akhir tahun depan, oleh itu keputusan seperti ini tidak sepatutnya dibuat hanya oleh jurutera beberapa syarikat secara dalaman.