Pendiri Anthropic Memperingatkan AI Boleh Meningkatkan Diri Sendiri Pada 2028, Mengakui Salah Menilai Risiko

Berdasarkan pemantauan Beating, Jack Clark, salah seorang pendiri bersama Anthropic, memperingatkan dalam ucapan di Universitas Oxford bahawa AI sangat mungkin mencapai "peningkatan diri rekursif" pada tahun 2028 atau lebih awal. Ini bermakna model besar akan mampu meningkatkan diri secara autonom tanpa campur tangan manusia dan mencipta versi yang lebih kuat. Clark secara terus terang menyatakan bahawa kebanyakan orang di seluruh dunia masih menyangkal kecepatan evolusi teknologi ini, bahkan Anthropic sendiri secara serius meremehkan skala perkembangan teknologi dan tidak bersedia menghadapi risiko kehilangan kawalan terhadap model canggih. Dalam hal kemampuan model canggih, Clark menggunakan model dalaman Mythos, yang selesai dilatih pada April 2026, sebagai contoh untuk menunjukkan batas nyata kehilangan kawalan. Mythos memiliki kekuatan merusak setara dengan senjata serangan dan pertahanan siber tingkat negara; kerana kekuatan merusaknya yang terlalu besar, syarikat memutuskan untuk melarang penerbitan publik secara tak terbatas, hanya memberikan keizinan kepada sejumlah kecil institusi untuk memperbaiki lubang perisian. Clark mengakui bahawa apabila Mythos selesai dilatih dan menunjukkan kekuatan merusaknya, pasukan itu sangat terkejut, menyedari bahawa kecepatan kedatangan model baru jauh melebihi jangkaan, dan tindakan respons keselamatan awal mengandungi kelemahan serius. Di konvensyen pengembang di London, Anthropic pula menunjukkan sisi komersial yang bertentangan sepenuhnya. Bersama desas-desus pendanaan dengan valuasi hingga US$900 bilion, Boris Cherny, pencipta Claude Code, secara aktif mempromosikan alat pengaturcaraan AI di acara tersebut. Apabila penyelidik bertanya secara langsung berapa ramai yang akan melaksanakan kod yang dihasilkan secara automatik oleh Claude tanpa sebarang pemeriksaan atau pengesahan bacaan, ramai pengembang di ruang sidang mengangkat tangan mereka.