Anthropic mengatakan dunia seharusnya memiliki pilihan untuk memperlambat atau sementara menghentikan pengembangan AI frontier jika laboratorium AI terkemuka dan pemerintah dapat menciptakan cara yang kredibel untuk memverifikasi bahwa semua pihak patuh.
Dalam laporan baru dari Institut Anthropic, perusahaan tersebut mengatakan bahwa jeda dapat membantu memberi waktu lebih banyak kepada pembuat kebijakan, peneliti, dan masyarakat sipil untuk mengatasi risiko yang terkait dengan sistem AI yang semakin canggih. Namun, perusahaan memperingatkan bahwa perlambatan hanya akan meningkatkan keamanan jika diterapkan secara luas di beberapa laboratorium berbasis sumber daya besar yang berada di atau dekat batas terdepan.
Anthropic mengatakan bahwa jeda sepihak oleh satu perusahaan akan lebih mudah diterapkan tetapi jauh kurang efektif, karena hal itu hanya bisa menyerahkan keunggulan kepada pihak yang kurang berhati-hati. Perusahaan tersebut mengatakan bahwa jeda yang bermakna memerlukan pengembang di beberapa negara untuk berhenti di bawah kondisi yang sama dan memverifikasi bahwa pesaing juga telah berhenti.
Peringatan ini muncul seiring Anthropic menyatakan bahwa sistem AI sudah mempercepat pengembangan model AI baru. Hingga Mei 2026, lebih dari 80% kode yang digabungkan ke dalam basis kode Anthropic ditulis oleh Claude, naik dari angka satuan rendah sebelum Claude Code diluncurkan dalam versi pratinjau penelitian pada Februari 2025.
Perusahaan mengatakan insinyur Anthropic rata-rata menggabungkan delapan kali lebih banyak kode per hari pada kuartal kedua 2026 dibandingkan dengan tahun 2024. Survei internal Maret 2026 juga menemukan bahwa staf penelitian yang menggunakan Mythos Preview memperkirakan mereka menghasilkan sekitar empat kali lebih banyak output daripada jika tidak menggunakan model AI.
Anthropic mengatakan bahwa keuntungan tersebut menunjukkan pergeseran yang lebih luas dalam cara sistem AI mutakhir dibangun. Insinyur dan peneliti manusia masih menetapkan tujuan, meninjau output, dan memutuskan masalah mana yang penting, tetapi Claude mengambil alih lebih banyak pekerjaan eksekusi dalam pemrograman, pengujian, debugging, dan optimasi eksperimen.
Perusahaan tersebut menggambarkan tren tersebut sebagai langkah awal menuju peningkatan diri rekursif, sebuah skenario di mana sistem AI menjadi mampu merancang dan mengembangkan penerus mereka sendiri secara mandiri. Anthropic mengatakan sistem semacam itu belum ada dan mungkin tidak tak terhindarkan, tetapi memperingatkan bahwa hal itu bisa datang lebih cepat dari yang dipersiapkan sebagian besar institusi.
Jika itu terjadi, Anthropic mengatakan kecepatan pengembangan AI bisa menjadi lebih terkait langsung dengan ketersediaan komputasi dan peningkatan efisiensi, sementara manusia beralih ke pengawasan, validasi, dan verifikasi. Itu akan membuat sistem yang digunakan untuk memantau pengembangan AI frontier menjadi lebih penting, terutama jika model AI mulai memainkan peran lebih besar dalam membangun versi masa depan diri mereka sendiri.
Anthropic mengatakan tantangannya adalah bahwa memverifikasi jeda dalam pengembangan AI lebih sulit daripada memantau banyak teknologi lainnya. Jalur pelatihan dapat disembunyikan, inputnya bersifat serbaguna, dan insentif untuk secara diam-diam melanggar akan sangat besar jika satu pihak bisa mendapatkan keunggulan sementara pihak lain berhenti.
Perusahaan tersebut mengatakan bahwa jeda yang kredibel memerlukan aturan jelas mengenai apa yang memicunya, apa yang mengakhirinya, dan siapa yang memutuskan apakah kondisi telah terpenuhi. Perusahaan tersebut membandingkan tantangan ini dengan rezim pengendalian senjata untuk teknologi kompleks lainnya, sambil mencatat bahwa sistem-sistem tersebut membutuhkan puluhan tahun untuk dibangun dan bahwa AI mungkin tidak memberi pemerintah banyak waktu.
Anthropic mengatakan berencana mengadakan percakapan dalam beberapa bulan mendatang dengan para pembuat kebijakan, peneliti, masyarakat sipil, dan perusahaan AI lainnya untuk memeriksa peningkatan mandiri rekursif dan mekanisme koordinasi yang mungkin untuk pengembangan AI frontier.
Perusahaan mengatakan akan mengharapkan perlambatan atau penangguhan sementara pengembangan jika pengembang frontier lainnya juga melakukannya dengan cara yang dapat diverifikasi.