Khidmat Berita Beating AI, Anthropic dalam dokumen prospektus IPO yang dikemaskini pada 2 November memperingatkan bahawa AI mungkin segera melintasi ambang kunci berkaitan 'peningkatan diri rekursif' (RSI), yang akan mempercepatkan laju pembangunan AI secara ketara. Sebelum ini, terdapat kes di mana kemajuan pembangunan yang signifikan tidak disedari sehingga percepatan tersebut berlaku. Semasa ini, Claude telah terlibat dalam penulisan kod, menjalankan eksperimen, dan memproses data latihan untuk membantu membangunkan model generasi seterusnya yang lebih kuat. Model baharu ini, pada gilirannya, boleh mempercepatkan pembangunan seterusnya, membentuk kitaran yang terus mempercepat. Menurut dasar keselamatan Anthropic, terdapat dua keadaan yang dianggap melintasi ambang kunci ini: 1. AI mampu menyelesaikan keseluruhan kerja pasukan penyelidikan AI dengan kos yang serupa; atau 2. Mempercepatkan kemajuan teknologi AI sekurang-kurangnya dua kali ganda, mengurangkan kemajuan yang biasanya memerlukan dua tahun kepada hanya satu tahun. Seiring dengan semakin dalamnya AI terlibat dalam pembangunan dirinya sendiri, kemampuan model mungkin meningkat lebih cepat daripada kemajuan penilaian keselamatan, penyelidikan keserasian, dan langkah-langkah perlindungan. Anthropic belum mengesahkan bahawa mana-mana model semasa telah mencapai tahap ini; peringatan ini berdasarkan anggaran dalaman dan ramalan terhadap model masa depan. Saat ini, mereka sedang mempertimbangkan untuk memperbaharui dasar keselamatan untuk memastikan proses pembangunan kunci masih diawasi dan dikawal oleh manusia.
Anthropic Memperingatkan AI Boleh Memasuki Fasa Pemecutan Diri Segera
MarsBitKongsi
Ringkasan
Anthropic menyebut dalam fail IPO yang dikemaskini pada 2 November bahawa AI mungkin segera memasuki fasa percepatan diri melalui peningkatan diri rekursif (RSI). Syarikat tersebut mengatakan model seperti Claude sudah membantu dalam penulisan kod dan pemprosesan data, mempercepatkan pembangunan. Menurut dasar keselamatannya, ambang dicapai jika AI mencapai output pasukan penyelidikan penuh atau menggandakan laju kemajuan. Anthropic belum mendapati model yang memenuhi piawaian ini dan sedang mengkaji dasar untuk mengekalkan pengawasan manusia. Syarikat tersebut juga mencatat bahawa peraturan MiCA yang akan datang mungkin mempengaruhi cara alat AI berinteraksi dengan pasaran kripto yang diatur. Langkah-langkah CFT boleh lebih lanjut membentuk pengawasan terhadap sistem kewangan yang digerakkan oleh AI.
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini.
Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.