Pendiri Anthropic Memperingatkan AI Bisa Meningkatkan Diri Sendiri Pada 2028, Mengakui Meremehkan Risiko

Menurut pemantauan Beating, Jack Clark, salah satu pendiri Anthropic, memperingatkan dalam pidatonya di Universitas Oxford bahwa AI sangat mungkin mencapai "peningkatan diri rekursif" pada tahun 2028 atau bahkan lebih awal. Ini berarti model besar akan mampu meningkatkan dirinya sendiri tanpa intervensi manusia dan menciptakan versi yang lebih kuat. Clark secara terbuka mengatakan bahwa sebagian besar orang di seluruh dunia masih menyangkal kecepatan evolusi teknologi ini, bahkan Anthropic sendiri secara serius meremehkan skala perkembangan teknologi dan tidak siap menghadapi risiko kehilangan kendali atas model canggih. Dalam hal kemampuan model canggih, Clark menggunakan model internal Mythos yang selesai dilatih pada April 2026 sebagai contoh untuk menunjukkan batas nyata kehilangan kendali. Mythos memiliki kekuatan merusak setara dengan senjata serangan dan pertahanan jaringan tingkat negara, sehingga perusahaan memutuskan untuk melarang rilis publik secara tak terbatas dan hanya memberikan otorisasi kepada sejumlah kecil lembaga untuk memperbaiki kerentanan perangkat lunak. Clark mengakui bahwa ketika Mythos selesai dilatih dan menunjukkan kekuatan merusaknya, tim internal sangat terkejut, menyadari bahwa kecepatan kedatangan model baru jauh melebihi perkiraan, dan pekerjaan respons keamanan sebelumnya memiliki celah serius. Di konferensi pengembang di London, Anthropic justru menampilkan nada bisnis yang sama sekali berbeda. Dengan kabar pendanaan yang menilai perusahaan hingga $900 miliar, Boris Cherny, pencipta Claude Code, secara aktif mempromosikan alat pemrograman AI di acara tersebut. Ketika para peneliti bertanya secara langsung berapa banyak pengembang yang akan langsung menerapkan kode yang ditulis secara otomatis oleh Claude tanpa melakukan verifikasi membaca, banyak pengembang di ruang rapat mengangkat tangan.