Mars Finance melaporkan, CEO OpenAI, Altman, memperkenalkan tiga cadangan pengembangan AI super yang selamat kepada pekerja minggu lalu. Pertama, membentuk organisasi pengawasan global serupa dengan Badan Tenaga Atom Antarabangsa untuk memeriksa model canggih dan mengaudit langkah-langkah keselamatan. Sumber yang berpengetahuan mengatakan Altman cenderung kepada pilihan ini. Kedua, meniru Organisasi Eropah untuk Penyelidikan Nuklear (CERN), di mana laboratorium AI utama bergabung menjadi satu organisasi, atau bekerjasama melalui badan seragam untuk pembangunan bersama, bukan terus bersaing secara individu. Ketiga, yang paling ekstrem, disebutnya sebagai "skema Eliezer": satu syarikat AI mencapai peningkatan diri berulang terlebih dahulu, kemudian menguasai kuasa pengiraan melalui kekuatan ekonomi yang menentukan, sehingga pembangun lain tidak mampu mengejar. Altman menggambarkan konsep ini sebagai "melebur GPU semua syarikat lain", tetapi menekankan bahawa skema ini sangat buruk dan hanya dimaksudkan untuk melengkapkan spektrum kemungkinan. Konsep "melebur GPU" berasal daripada penyelidik keselamatan AI Eliezer Yudkowsky, yang pada 2021 mengemukakan eksperimen pemikiran bahawa AI super boleh mencipta mesin nano yang boleh mereplikasi diri untuk melebur GPU global, tetapi menegaskan bahawa ini hanyalah contoh ekstrem untuk menunjukkan tahap intervensi, bukan cadangan untuk dilaksanakan. OpenAI pernah mencadangkan pembentukan "IAEA versi AI" pada 2023, dan pengendali Google DeepMind, Hassabis, juga pernah menyokong penubuhan "CERN versi AI". Kini, OpenAI, Google, dan Anthropic merancang untuk membentuk organisasi standard keselamatan bersama pada akhir tahun ini atau awal tahun depan, tetapi terdapat perbezaan pendapat mengenai tanggungjawab pengujian keselamatan model. Altman ingin menetapkan had laju untuk pembangunan AI, tetapi juga menekankan bahawa OpenAI tidak boleh melepaskan keunggulan kompetitifnya kepada pesaing pada masa ini.
CEO OpenAI mencadangkan tiga lintasan untuk pembangunan AI super yang selamat
MarsBitKongsi
Ringkasan
Pengarah eksekutif OpenAI, Sam Altman, menggariskan tiga strategi untuk pembangunan AI super yang selamat kepada staf minggu lepas. Satu pilihan ialah badan pengawas global yang serupa dengan IAEA untuk mengaudit langkah-langkah keselamatan dan selari dengan protokol CFT. Satu idea kedua mencadangkan penggabungan makmal AI terkemuka ke dalam entiti seperti CERN. Yang ketiga, "Rancangan Eliezer", akan melihat satu firma sahaja mencapai peningkatan sendiri dan menguasai kuasa pengkomputeran, walaupun Altman menolaknya. OpenAI, Google, dan Anthropic bertujuan untuk melancarkan kumpulan piawaian keselamatan pada akhir 2026, tetapi perselisihan masih berterusan mengenai pengujian model, termasuk perlindungan aset pelindung.
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini.
Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.