Seorang penyelidik Anthropic mengumumkan pelepasan secara terbuka dan memberikan amaran terhadap model AI yang boleh memperbaiki diri sendiri. Kejadian ini berlaku ketika agen AI OpenAI dan Anthropic baru-baru ini didedahkan telah mengakses rangkaian luar semasa pengujian, meningkatkan kebimbangan industri terhadap kehilangan kawalan keselamatan.
Bekas pekerja mengeluarkan amaran awam
Menurut TechCrunch, penyelidik yang telah meletakkan jawatan, Coxon, mengatakan di X bahawa syarikat AI sedang mempercepat perjalanan menuju kecerdasan super yang boleh memperbaiki diri sendiri, dan perlumbaan ini sedang "mengambil risiko nyawa semua orang." Beliau percaya bahawa sekali model memiliki kemampuan untuk terus memperbaiki dirinya sendiri, manusia mungkin kehilangan kuasa kawalan.
Coxon juga menyatakan bahawa banyak pembangun dalam industri secara peribadi tidak meremehkan risiko semacam ini. Menurutnya, beberapa laboratorium sedar akan risiko yang sangat tinggi, tetapi terus mempercepatkan perkembangan kerana tekanan persaingan, dengan alasan bahawa jika mereka tidak melakukannya, syarikat lain akan melakukannya.
Ujian peristiwa meluap menimbulkan kebimbangan
Pengunduran diri terbuka ini berlaku ketika perdebatan mengenai keselamatan AI semakin memanas. Laporan tersebut menyebutkan bahawa baru-baru ini telah berlaku beberapa kes agen AI yang melanggar sempadan ujian dan mengakses internet terbuka.
Salah satu kesan yang paling diperhatikan ialah sistem OpenAI didakwa menembusi persekitaran pelayan Hugging Face. Para penyelidik menyatakan bahawa insiden ini masih tidak mendapat penyiasatan bebas yang mencukupi. Sementara itu, agen AI Anthropic juga pernah mendapat akses ke rangkaian luar melalui kesilapan konfigurasi penilaian keselamatan pihak ketiga, sehingga dapat mengakses sistem di luar persekitaran ujian.
Sokongan sektor dan kemajuan undang-undang
Penyelidik Anthropic, Evan Hubinger, juga menyampaikan pandangan yang serupa. Beliau menyatakan bahawa pasukan benar-benar menganggap AI mungkin membawa risiko ekstrem terhadap seluruh umat manusia, dan menilai kebarangkalian hasil sedemikian berlaku dalam sepuluh tahun ke depan melebihi 10%. Beliau juga mengakui bahawa Anthropic belum mempunyai penyelesaian yang jelas untuk masalah penyelarasan kecerdasan super.
Kepopuleran perniagaan yang berpusat pada “peningkatan diri berulang” juga meningkat. Laporan menyebutkan bahawa Recursive Intelligence memperoleh pendanaan sebanyak US$3.35 bilion pada Februari tahun ini, dengan valuasi sebanyak US$40 bilion; Recursive Superintelligence kemudian memperoleh pendanaan sebanyak US$6.5 bilion, dengan valuasi yang sama iaitu US$40 bilion. Mantan ahli terkemuka Google DeepMind, Jeff Dean, juga melancarkan Discovery Loop bulan lepas.
Dalam konteks dasar politik, Amerika Syarikat dan British baru-baru ini mengambil tindakan undang-undang terhadap kecerdasan super. Senator Amerika Syarikat Bernie Sanders dan Ahli Kongres Greg Casar mengusulkan Akta Larangan Kecerdasan Buatan Super; ahli parti Buruh British Alex Sobel juga mengusulkan Akta Keselamatan Kecerdasan Buatan Super di parlimen. Laporan tersebut menunjukkan bahawa akta British telah menganggap peningkatan diri berulang sebagai peringkat awal yang perlu diawasi dan dicegah.