Peneliti Anthropic Mengundurkan Diri, Memperingatkan AI Bisa Kehilangan Kendali pada 2027

Berita Huoxing Finance melaporkan bahwa peneliti Anthropic, Jacob Coxon, mengumumkan pengunduran dirinya dan bersiap meninggalkan industri AI. Selama tiga tahun terakhir, ia sebelumnya melakukan penelitian pra-pelatihan di OpenAI dan Anthropic. Ia menunjukkan bahwa kedua perusahaan tidak maju secara bertanggung jawab dalam pengembangan AI, justru saling berlomba menciptakan superintelligence yang dapat terus meningkatkan kemampuan mereka sendiri, "menggantungkan nyawa kita pada taruhan ini." Coxon pindah dari OpenAI ke Anthropic tahun ini karena yang terakhir lebih menekankan keamanan model. Ia mengakui bahwa upaya keamanan Anthropic serius, tetapi percaya bahwa selama perusahaan-perusahaan masih berlomba menjadi yang pertama menciptakan AGI (AI umum yang mampu melebihi manusia dalam berbagai tugas), kompromi terhadap keamanan akan sulit dihindari, dan kedisiplinan tunggal dari satu perusahaan tidak cukup untuk menyelesaikan masalah ini. Ia menilai kedua perusahaan tersebut: banyak orang di OpenAI belum benar-benar menyadari seberapa besar risikonya; Anthropic memahami risikonya, tetapi percaya bahwa pihak lain tidak dapat diandalkan, sehingga harus menjadi yang pertama membuatnya. Coxon mengatakan bahwa beberapa praktisi AI secara pribadi jauh lebih pesimis daripada pernyataan publik mereka, bahkan khawatir AI dapat menghancurkan umat manusia sebelum akhir dekade ini. Ia memperkirakan bahwa dalam skenario paling ekstrem, AI mungkin sudah kehilangan kendali pada akhir tahun depan, sehingga keputusan semacam ini seharusnya tidak hanya ditentukan oleh insinyur di dalam beberapa perusahaan saja.