Anthropic Memperingatkan AI Bisa Akhirnya Menciptakan Penerusnya Sendiri

• Anthropic mengatakan bahwa Claude sekarang menulis sebagian besar kode yang digunakan untuk mengembangkan sistem AI-nya sendiri, meningkatkan produktivitas.
• Perusahaan mengatakan kemampuan AI berkembang lebih cepat, dengan kompleksitas tugas berlipat ganda sekitar setiap empat bulan.
• Anthropic memperingatkan bahwa AI pada akhirnya bisa membantu menciptakan AI yang lebih baik, sehingga membuat pengawasan dan keamanan menjadi lebih menantang.

Perusahaan kecerdasan buatan Anthropic mengatakan bahwa AI berkembang begitu cepat sehingga mulai membantu menciptakan sistem AI generasi berikutnya. Perusahaan ini memperingatkan bahwa hal ini pada akhirnya bisa membuat manusia lebih sulit mempertahankan kendali atas pengembangan AI.

Dalam sebuah makalah penelitian baru, Anthropic membahas kemungkinan “peningkatan mandiri rekursif.” Ini adalah situasi di mana sistem AI merancang, membangun, dan melatih sistem AI yang lebih canggih dengan sedikit keterlibatan manusia.

Perusahaan menekankan bahwa ini belum terjadi dan mungkin tidak akan pernah terjadi. Namun, perusahaan percaya bahwa pemerintah, regulator, dan perusahaan teknologi sebaiknya mulai bersiap sekarang.

“Kami belum sampai di sana, dan peningkatan diri rekursif tidaklah tak terhindarkan. Tetapi hal itu bisa datang lebih cepat dari yang dipersiapkan sebagian besar institusi,” kata Anthropic.

Anthropic mengatakan model AI Claude-nya telah berkembang jauh melampaui asisten pemrograman dasar.

Perusahaan menjelaskan bagaimana alat AI telah berkembang. Pada awalnya, insinyur menulis kode sendiri. Kemudian, chatbot membantu dengan tugas pemrograman kecil. Selanjutnya muncul agen pemrograman AI yang dapat mengedit file dan mengelola proyek secara mandiri.

Hari ini, agen AI dapat menulis dan menjalankan kode, menyelesaikan tugas secara mandiri, dan bahkan menugaskan pekerjaan kepada agen AI lainnya. Menurut Anthropic, langkah selanjutnya adalah sistem AI yang secara aktif membantu membangun dan melatih model AI masa depan.

Perusahaan mengungkapkan bahwa Claude sekarang menulis sebagian besar kode yang digunakan untuk mengembangkan sistem AI milik Anthropic sendiri. Akibatnya, para pengembang menjadi jauh lebih produktif. Anthropic mengatakan insinyur rata-rata sekarang menghasilkan sekitar delapan kali lebih banyak kode per hari dibandingkan tahun 2024.

Terkait: Presiden Anthropic Mengatakan Biaya Pelatihan AI yang Meningkat Mendorong Rencana IPO

Anthropic mengatakan bahwa pengujian publik dan penelitian internalnya menunjukkan bahwa kemampuan AI sedang meningkat dengan cepat. Perusahaan ini menyatakan bahwa panjang dan kompleksitas tugas yang dapat diselesaikan AI secara andal berlipat ganda sekitar setiap empat bulan. Sebelumnya, laju pertumbuhan ini lebih dekat ke setiap tujuh bulan.

Anthropic menunjukkan kemajuan model Claude-nya sebagai contoh. Pada Maret 2024, Claude Opus 3 mampu menangani tugas rekayasa perangkat lunak yang memakan waktu sekitar empat menit bagi manusia. Satu tahun kemudian, Claude Sonnet 3.7 dilaporkan dapat menyelesaikan tugas yang memerlukan sekitar 90 menit kerja manusia.

Pada 2026, Claude Opus 4.6 dilaporkan mampu menangani tugas yang setara dengan sekitar 12 jam upaya manusia.

Kemampuan penelitian Claude juga telah meningkat. Dalam satu proyek internal, agen yang didukung Claude menyelesaikan hampir semua tantangan penelitian utama.

Anthropic juga melaporkan bahwa tingkat keberhasilan Claude dalam tugas pemrograman sulit mencapai 76% pada Mei 2026, peningkatan besar dibandingkan enam bulan sebelumnya.

Anthropic menguraikan tiga kemungkinan jalur untuk pengembangan AI. Yang pertama adalah perlambatan, di mana kemajuan menjadi lebih sulit dicapai seiring berjalannya waktu.

Yang kedua adalah masa depan di mana AI terus meningkatkan produktivitas sementara manusia tetap mengendalikan keputusan penting dan pengawasan.

Skenario ketiga dan paling dramatis adalah ketika sistem AI mulai menciptakan penerus mereka sendiri, yang mengarah pada kemajuan yang jauh lebih cepat.

Berdasarkan bukti saat ini, Anthropic percaya skenario kedua adalah yang paling mungkin. Namun, perusahaan menyatakan masih ada ketidakpastian tentang seberapa cepat kemampuan AI bisa berkembang.

Anthropic mengatakan bahwa manusia masih memiliki kekuatan penting, termasuk penilaian, pemikiran strategis, dan menentukan masalah mana yang layak dipecahkan. Namun, perusahaan berpendapat bahwa tantangan terbesar mungkin segera menjadi pengawasan manusia, bukan pengembangan AI itu sendiri.

Seiring dengan meningkatnya kemampuan sistem AI, mungkin akan semakin sulit bagi orang-orang untuk meninjau, memverifikasi, dan memantau pekerjaan mereka dengan aman.

Karena itu, Anthropic menyarankan pemerintah dan perusahaan AI terkemuka harus memiliki rencana untuk sementara memperlambat pengembangan sistem AI paling canggih jika kemajuan mulai bergerak lebih cepat daripada yang dapat dikelola masyarakat dengan aman.

Perusahaan mencatat bahwa perlambatan yang berarti kemungkinan besar memerlukan kerja sama internasional. Jika hanya satu perusahaan yang menghentikan pengembangan, pesaing dapat terus maju, mengurangi efektivitas langkah keamanan tersebut.

Saat ini, Anthropic mengatakan bahwa peningkatan diri rekursif tetap merupakan kemungkinan, bukan kepastian. Namun, seiring Claude memainkan peran yang semakin besar dalam membangun sistem AI masa depan, perusahaan percaya bahwa diskusi mengenai tata kelola AI, pengawasan, dan keamanan sebaiknya dimulai lebih awal daripada terlambat.

Terkait: Apakah AI Membunuh Bitcoin? Mengapa Modal Berpindah ke Teknologi AI Sekarang