Anthropic Memperingatkan Bahawa AI Mungkin Akhirnya Mencipta Pewaris Sendiri

• Anthropic mengatakan bahawa Claude kini menulis sebahagian besar kod yang digunakan untuk membangunkan sistem AI sendiri, meningkatkan produktiviti.
• Syarikat tersebut mengatakan kemampuan AI sedang berkembang lebih cepat, dengan kompleksiti tugas berlipat ganda kira-kira setiap empat bulan.
• Anthropic memperingatkan bahawa AI akhirnya boleh membantu mencipta AI yang lebih baik, menjadikan pengawasan dan keselamatan lebih mencabar.

Syarikat kecerdasan buatan Anthropic mengatakan bahawa AI semakin membaik dengan cepat sehingga mulai membantu mencipta sistem AI generasi seterusnya. Syarikat tersebut memperingatkan bahawa ini akhirnya boleh membuatkan manusia lebih sukar untuk mengekalkan kawalan atas pembangunan AI.

Dalam kertas penyelidikan yang baharu, Anthropic membincangkan kemungkinan “peningkatan diri secara rekursif.” Ini adalah situasi di mana sistem AI mereka, membina, dan melatih sistem AI yang lebih canggih dengan sedikit campur tangan manusia.

Syarikat menekankan bahawa ini belum berlaku dan mungkin tidak akan berlaku. Namun, ia percaya bahawa kerajaan, regulator, dan syarikat teknologi harus mula bersedia sekarang.

“Kami belum sampai ke sana, dan peningkatan diri berulang bukanlah sesuatu yang pasti. Tetapi ia boleh datang lebih awal daripada yang kebanyakan institusi bersedia,” kata Anthropic.

Anthropic mengatakan model AI Claude-nya telah berkembang jauh melampaui pembantu pengkodean asas.

Syarikat tersebut menerangkan bagaimana alat AI telah berkembang. Pada mulanya, jurutera menulis kod sendiri. Kemudian, chatbot membantu dengan tugas pengkodean kecil. Selepas itu datang agen pengkodean AI yang boleh mengedit fail dan mengurus projek secara sendiri.

Hari ini, agen AI boleh menulis dan menjalankan kod, menyelesaikan tugas secara berdikari, dan bahkan mengalihkan kerja kepada agen AI lain. Menurut Anthropic, langkah seterusnya ialah sistem AI yang secara aktif membantu membina dan melatih model AI masa depan.

Syarikat tersebut mengungkapkan bahawa Claude kini menulis sebahagian besar kod yang digunakan untuk membangunkan sistem AI sendiri Anthropic. Akibatnya, pembangun menjadi jauh lebih produktif. Anthropic mengatakan jurutera purata kini menghasilkan kira-kira lapan kali lebih banyak kod sehari berbanding tahun 2024.

Terkait: Presiden Anthropic Mengatakan Kos Latihan AI yang Meningkat Mendorong Rancangan IPO

Anthropic mengatakan ujian awam dan penyelidikan dalaman menunjukkan kemampuan AI sedang meningkat dengan pesat. Syarikat ini menyatakan panjang dan kompleksiti tugas yang boleh diselesaikan oleh AI dengan boleh dipercayai berlipat ganda kira-kira setiap empat bulan. Sebelum ini, kadar pertumbuhan ini lebih dekat kepada setiap tujuh bulan.

Anthropic menunjukkan kemajuan model Claude sebagai contoh. Pada Mac 2024, Claude Opus 3 mampu menangani tugas kejuruteraan perisian yang akan mengambil masa sekitar empat minit seorang manusia. Satu tahun kemudian, Claude Sonnet 3.7 dilaporkan mampu menyelesaikan tugas yang memerlukan sekitar 90 minit kerja manusia.

Pada 2026, Claude Opus 4.6 dilaporkan mampu menangani tugas yang setara dengan kira-kira 12 jam usaha manusia.

Kemampuan penyelidikan Claude juga telah meningkat. Dalam satu projek dalaman, agen yang dikuasai oleh Claude menyelesaikan hampir semua cabaran penyelidikan utama.

Anthropic juga melaporkan bahawa kadar kejayaan Claude dalam tugas pengaturcaraan yang sukar mencapai 76% pada Mei 2026, peningkatan besar berbanding enam bulan sebelumnya.

Anthropic merumuskan tiga jalan yang mungkin bagi pembangunan AI. Yang pertama ialah perlambatan, di mana kemajuan menjadi lebih sukar dicapai seiring masa.

Yang kedua ialah masa depan di mana AI terus meningkatkan produktiviti sambil manusia kekal mengawal keputusan penting dan pengawasan.

Senario ketiga dan paling dramatis ialah apabila sistem AI mula mencipta penerus mereka sendiri, yang mengakibatkan kemajuan yang jauh lebih pantas.

Berdasarkan bukti semasa, Anthropic percaya skenario kedua adalah yang paling mungkin. Namun, syarikat tersebut mengatakan masih terdapat ketidakpastian mengenai seberapa pantas kemampuan AI boleh berkembang.

Anthropic mengatakan bahawa manusia masih mempunyai kekuatan penting, termasuk penilaian, pemikiran strategik, dan menentukan masalah mana yang patut diselesaikan. Namun, syarikat ini berhujah bahawa cabaran terbesar mungkin segera menjadi pengawasan manusia, bukan pembangunan AI itu sendiri.

Semasa sistem AI menjadi lebih mampu, ia mungkin menjadi semakin sukar untuk orang-orang mengulas, mengesahkan, dan memantau kerja mereka dengan selamat.

Oleh sebab itu, Anthropic mencadangkan kerajaan dan syarikat AI terkemuka harus mempunyai rancangan untuk sementara waktu memperlambat pembangunan sistem AI paling canggih jika kemajuan bermula bergerak lebih pantas daripada yang boleh diuruskan dengan selamat oleh masyarakat.

Syarikat tersebut mencatat bahawa sebarang perlambatan yang bermakna kemungkinan besar memerlukan kerjasama antarabangsa. Jika hanya satu syarikat menghentikan pembangunan, pesaing boleh terus memajukan usaha mereka, mengurangkan keberkesanan langkah keselamatan tersebut.

Sementara itu, Anthropic menyatakan bahawa peningkatan diri berulang masih merupakan kemungkinan, bukan kepastian. Tetapi semakin besar peranan Claude dalam membina sistem AI masa depan, syarikat percaya bahawa perbincangan mengenai pentadbiran AI, pengawasan, dan keselamatan harus bermula lebih awal daripada lewat.

Terkait: Adakah AI Membunuh Bitcoin? Mengapa Modal Berpindah ke Teknologi AI Sekarang