Laporan Anthropic: Peningkatan Diri AI Berkembang, Tetapi Otonomi Penuh Masih Jauh

Berdasarkan pemantauan Beating, kemampuan AI untuk beriterasi sendiri sedang melampaui semua harapan. Institut Anthropic pada 5 Jun mengeluarkan laporan berjudul “When AI Builds Itself”, yang mengungkapkan secara terperinci kemajuan penelitian mereka dalam “peningkatan diri rekursif”. Data menunjukkan bahawa sehingga Mei 2026, lebih daripada 80% kod yang digabungkan ke dalam repositori utama Anthropic ditulis oleh Claude sendiri. Sebelum pelancaran Claude Code pada Februari 2025, kod yang ditulis oleh Claude hanya menyumbang beberapa peratus. Pada 13 Mei, pendiri Zhipu AI, Tang Jie, meramalkan bahawa akhir bagi model besar ialah evolusi diri, dan Claude mungkin telah melaksanakan garis dasar pelatihan diri “menulis kod, membersihkan data, dan melatih diri sendiri”. Namun, Anthropic dengan jelas menegaskan dalam laporan itu bahawa peningkatan diri rekursif sepenuhnya autonomi—iaitu rekursif untuk mereka dan membangunkan penerusnya—belum dicapai. Peranan AI dalam rantai pembangunan sedang berada dalam fasa peralihan dari peningkatan sebahagian kepada pengambilan keputusan autonomi. Pada suku kedua 2026, jumlah kod yang digabungkan setiap jurutera Anthropic setiap hari mencapai 8 kali ganda jumlah pada 2024. Proses pembangunan kini sangat ringkas: jurutera hanya bertanggungjawab merancang sasaran dan mengulas, manakala Claude bertanggungjawab menulis dan menjalankan kod secara terperinci. Anthropic juga melancarkan Claude sebagai pemeriksa kod automatik yang bertugas menghalang ralat dan lubang keselamatan. Ini menunjukkan bahawa tiang “penilaian diri” yang dinyatakan oleh Tang Jie telah dilaksanakan dalam bidang kejuruteraan, tetapi pengulasan manusia masih menjadi saluran keselamatan terakhir. Kebolehpercayaan model dalam melaksanakan tugas jangka panjang secara berterusan juga berlipat ganda. Masa kerja autonomi berterusan model hampir berlipat ganda setiap 4 bulan. Pada Mac 2024, Claude 3 Opus hanya mampu menangani tugas ringkas selama 4 minit. Setahun kemudian, Claude 3.7 Sonnet mampu bertahan selama 1.5 jam. Pada Mac 2026, Claude 4.6 Opus sudah mampu menangani tugas kompleks selama 12 jam. Data daripada agensi penilaian METR menunjukkan bahawa versi pra-pelancaran terkini Claude Mythos mampu bekerja secara autonomi selama lebih daripada 16 jam, mendekati had maksimum alat penilaian semasa. Dengan kadar sekarang, pada 2027, AI akan mampu menyelesaikan tugas penyelidikan yang memerlukan minggu-minggu kerja manusia, membantu syarikat melangkah dari “syarikat seorang” kepada “syarikat tanpa manusia”. Mengenai “garis dasar pelatihan diri” yang diramalkan oleh Tang Jie, laporan itu mengungkapkan sebenarnya sebuah “tutupan eksperimen mikro” yang terhad. Dalam eksperimen percepatan kod latihan model kecil, Claude 4 Opus pada Mei 2025 hanya mampu meningkatkan kelajuan kod sebanyak 3 kali ganda, manakala versi pra-pelancaran Claude Mythos pada April 2026 mencapai percepatan 52 kali ganda. Sebaliknya, penyelidik terkemuka manusia biasanya mampu mencapai peningkatan 4 kali ganda dalam masa 4 hingga 8 jam. Namun, objektif pengoptimuman dan indikator kejayaan eksperimen ini semuanya ditetapkan oleh manusia terlebih dahulu. Apabila menghadapi rantai lengkap yang lebih kompleks—“membersihkan data, menghasilkan data sintetik, dan melatih diri sendiri”—kemampuan pengambilan keputusan AI masih hilang. Namun, tutupan autonomi dalam rantai pembangunan sedang mendorong manusia ke tepi kehilangan kuasa kawalan akhir terhadap sistem. Ramalan Tang Jie bahawa “LLM OS akan menggantikan arsitektur tradisional, dan aplikasi akan dihasilkan secara serta-merta mengikut permintaan” bermakna bahawa di masa depan, semua kod yang dijalankan oleh komputer akan bersifat dinamik dan tidak boleh ditinjau sebelumnya; manakala peringatan Anthropic bahawa “pengulasan manusia tidak mampu mengejar evolusi diri AI” bermakna kita bahkan tidak mampu mengawal sumber asal kod yang dihasilkan. Apabila AI mula mereka dan melatih penerusnya secara autonomi, evolusi perisian akan menjadi kotak hitam sepenuhnya. Sekiranya AI dibiarkan melakukan iterasi diri tanpa audit manusia dalam sistem kotak hitam ini, pengasingan keselamatan, pemantauan, dan penyelarasan tingkah laku terhadap sistem peningkatan diri akan menjadi sangat sukar.