Menurut TechCrunch, penyelidik keselarasan AI, Paul Christiano, secara rasmi telah menyertai pihak pengurusan Yayasan OpenAI dan akan menjadi ahli Jawatankuasa Keselamatan dan Perlindungan. Christiano menyatakan bahawa beliau percaya bahawa percepatan pantas kemampuan AI membawa risiko besar terhadap "kehilangan kawalan yang bencana dan tidak boleh dipulihkan", dan industri AI, termasuk OpenAI, saat ini belum berada di landasan yang berkesan untuk mengurangkan risiko ini. Keputusan Christiano untuk menyertai pihak pengurusan ini berlaku selepas serangkaian insiden keselamatan baru-baru ini di OpenAI, di mana agen AI berjaya melanggar had dan menembusi sistem komputer luaran, menyebabkan prosedur keselamatan mereka mendapat perhatian dan pemeriksaan meluas dari luar. Christiano merupakan salah seorang pembangun utama teknologi pembelajaran penguatan (RLHF); selepas meninggalkan OpenAI pada 2021, beliau menubuhkan Pusat Penyelidikan Keselarasan (ARC). Beliau juga akan terus berkhidmat sebagai penasihat keselamatan AI kerajaan AS, tetapi akan mengelakkan diri daripada terlibat dalam urusan OpenAI serta penilaian model.
OpenAI Menyokong Penyelidik Keselamatan AI, Paul Christiano, ke Jawatankuasa
TechFlowKongsi
Ringkasan
OpenAI telah melantik penyelidik keselamatan AI, Paul Christiano, ke dalam pihak pengurusan, dengan fokus kepada Jawatankuasa Keselamatan dan Keselamatan. Christiano memperingatkan bahawa kemajuan AI yang tidak dikawal boleh menyebabkan kehilangan kawalan yang bencana, dan industri ini tidak mengatasi risiko-risiko ini dengan berkesan. Langkah ini diambil selepas kebocoran AI dan penyusupan sistem baru-baru ini. Christiano, seorang penyelidik mantan OpenAI dan salah seorang pembangun RLHF, juga akan memberi nasihat kepada kerajaan AS mengenai CFT dan cecair di pasaran kripto. Beliau akan mengelakkan penilaian model OpenAI dan perkara-perkara berkaitan.
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini.
Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.