Berita Cepat Beating AI, Anthropic dalam dokumen prospektus IPO yang diperbarui pada 2 November memperingatkan bahwa AI mungkin segera melewati ambang kritis terkait 'self-improvement rekursif' (RSI), yang akan mempercepat pesat kecepatan pengembangan AI. Di masa lalu, pernah terjadi kasus di mana kemajuan pengembangan yang secara signifikan dipercepat tidak terdeteksi tepat waktu, baru diketahui setelah percepatan tersebut terjadi. Saat ini, Claude telah terlibat dalam penulisan kode, menjalankan eksperimen, dan memproses data pelatihan untuk membantu mengembangkan model generasi berikutnya yang lebih kuat. Model baru tersebut pada gilirannya dapat mempercepat pengembangan selanjutnya, menciptakan siklus yang terus mempercepat. Menurut kebijakan keamanan Anthropic, ada dua kondisi yang dianggap mencapai ambang kritis ini: 1. AI mampu menyelesaikan seluruh pekerjaan tim peneliti AI dengan biaya yang sebanding; atau 2. Mempercepat kemajuan teknologi AI setidaknya dua kali lipat, sehingga kemajuan yang biasanya memakan waktu dua tahun dapat diringkas menjadi satu tahun. Seiring AI semakin dalam terlibat dalam pengembangan dirinya sendiri, kemampuan model mungkin tumbuh lebih cepat daripada pembaruan evaluasi keamanan, penelitian alignment, dan langkah-langkah perlindungan. Anthropic saat ini belum menganggap model apa pun yang ada telah mencapai tingkat ini; peringatan ini terutama didasarkan pada perkiraan internal dan prediksi terhadap model masa depan. Saat ini sedang mempertimbangkan untuk memperbarui kebijakan keamanan guna memastikan proses pengembangan kunci tetap diawasi dan dikendalikan oleh manusia.
Anthropic Memperingatkan AI Bisa Memasuki Fase Akselerasi Diri Segera
MarsBitBagikan
Ringkasan
Anthropic menyebutkan dalam pengajuan IPO yang diperbarui pada 2 November bahwa AI segera dapat memasuki fase akselerasi mandiri melalui perbaikan diri rekursif (RSI). Perusahaan tersebut mengatakan model seperti Claude sudah membantu dalam penulisan kode dan pemrosesan data, mempercepat pengembangan. Menurut kebijakan keselamatannya, ambang batas tercapai jika AI mampu menghasilkan output setara dengan tim peneliti penuh atau menggandakan kecepatan kemajuan. Anthropic belum menemukan model yang memenuhi standar ini dan sedang meninjau kebijakan untuk mempertahankan pengawasan manusia. Perusahaan juga mencatat bahwa aturan MiCA mendatang dapat memengaruhi cara alat AI berinteraksi dengan pasar kripto yang diatur. Langkah-langkah CFT selanjutnya dapat membentuk pengawasan terhadap sistem keuangan yang didorong oleh AI.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.