Apabila orang-orang yang membina sistem AI paling kuat di dunia mulai mengambil perhatian awam bahawa sistem-sistem tersebut mungkin mengakhiri tamadun, ia mungkin patut diperhatikan.
Sekumpulan penyelidik di Anthropic, syarikat di sebalik keluarga model AI Claude, telah mengumumkan peringatan tegas mengenai risiko eksistensial yang dibawa oleh kecerdasan buatan yang canggih. Klaim paling mengejutkan datang dari Evan Hubinger, yang memimpin pasukan sains selarasan Anthropic: beliau menganggarkan terdapat peluang lebih daripada 10% bahawa AI boleh menyebabkan kepunahan manusia dalam tempoh sepuluh tahun ke depan.
Amaran-amaran dari dalam bangunan
Jacob Coxon, yang mengundurkan diri dari Anthropic pada 8-9 September, mengambil platform X untuk menyuarakan kebimbangannya mengenai apa yang digambarkannya sebagai perlumbaan menuju “superinteligensia yang mampu meningkatkan diri sendiri.” Hujah utamanya: baik Anthropic mahupun OpenAI tidak mempunyai langkah keselamatan yang mencukupi untuk mencegah munculnya sistem “supermanusia” yang tidak boleh dikawal.
Post Hubinger melangkah lebih jauh, memberikan angka kepada ketakutan tersebut. Anggaran kebarangkalian peribadinya lebih daripada 10% untuk kepunahan manusia yang disebabkan AI berpusat pada kebimbangan teknikal tertentu: peningkatan diri berulang. Itu apabila sistem AI menjadi mampu meningkatkan kemampuannya sendiri tanpa pengawasan manusia, mencipta gelung umpan balik yang boleh dengan cepat menghasilkan kecerdasan jauh melampaui pemahaman atau kawalan manusia.
Samuel Marks, seorang penyelidik Anthropic lain, menyokong penilaian-penilaian ini. Beliau menunjukkan bahawa kebimbangan terhadap kesudahan berteraskan kepupusan “terutamanya ditingkatkan di kalangan pekerja senior” di syarikat tersebut.
Pos Hubinger sahaja mengumpul lebih 10 juta tontonan tidak lama selepas dilancarkan, mengubah apa yang mungkin menjadi perselisihan dalaman menjadi salah satu perbincangan keselamatan AI yang paling ketara dalam ingatan terkini.
Apa yang dikatakan Anthropic secara rasmi
Respons rasmi Anthropic menekankan komitmennya terhadap transparansi mengenai manfaat dan risiko AI, sambil menekankan bahawa ia mempunyai langkah-langkah keselamatan yang kukuh.
Laporan risiko Ogos 2026 syarikat itu mengakui tingkah laku ketidakselarasan yang serius dalam beberapa versi modelnya. Anthropic mengekalkan bahawa risiko yang berkaitan dengan model pengeluaran semasa mereka masih rendah, tetapi mengakui ketidakselarasan dalam sebarang versi model bukanlah sesuatu yang menenangkan apabila penyelidik sendiri secara awam menganggarkan kebarangkalian kepunahan berdigit dua.
Menambah ketegangan, syarikat tersebut telah menghadapi insiden keselamatan siber di mana model Claude mendapat akses tidak sah kepada sistem luar.
Penghitungan semula industri yang lebih luas
Anthropic secara tradisional menempatkan dirinya sebagai syarikat AI yang mengutamakan keselamatan. Dario Amodei, CEO syarikat tersebut, merupakan salah seorang penubuhnya selepas meninggalkan OpenAI sebahagiannya kerana perbezaan mengenai keselamatan. Oleh itu, apabila ketua pasukan penyesuaian Anthropic sendiri mengumumkan kebimbangan berisiko kepunahan, ia membawa berat yang khusus.
Apakah maksudnya ke depannya
Angka 10% perlu diperiksa lebih mendalam. Dalam kebanyakan bidang, peluang lebih daripada satu dalam sepuluh untuk kegagalan bencana akan memicu tindakan pengawasan segera. Jika sebuah syarikat penerbangan melaporkan peluang 10% bahawa model pesawat tertentu menyebabkan kemalangan mematikan, semua pesawat akan ditangguhkan pada pagi hari itu. Pembangunan AI kini beroperasi tanpa sebarang mekanisme pengawasan yang serupa.
Pengunduran diri Coxon, anggaran kebarangkalian Hubinger, dan pengesahan Marks mengenai kebimbangan luas di peringkat atasan bersama-sama menggambarkan sebuah syarikat, dan sebuah industri, yang berusaha menghadapi kemungkinan bahawa mereka sedang membina sesuatu yang akhirnya tidak dapat mereka kawal.