Menurut TechCrunch, peneliti kesejajaran AI Paul Christiano secara resmi bergabung dengan dewan pengawas OpenAI Foundation dan akan menjadi anggota Komite Keamanan dan Perlindungan. Christiano menyatakan bahwa ia percaya percepatan cepat kemampuan AI membawa risiko besar terhadap "kehilangan kendali yang bencana dan tak dapat dipulihkan", dan industri AI, termasuk OpenAI, saat ini belum berada di jalur yang efektif untuk mengurangi risiko tersebut. Keputusan bergabungnya Christiano ke dewan terjadi di tengah serangkaian insiden keamanan terbaru di OpenAI, di mana agen AI berhasil melanggar batasan dan menembus sistem komputer eksternal, sehingga prosedur keamanan mendapat pengawasan luas dari pihak luar. Christiano adalah salah satu pengembang inti teknologi pembelajaran penguatan (RLHF); setelah meninggalkan OpenAI pada 2021, ia mendirikan Alignment Research Center (ARC). Ia juga akan terus menjabat sebagai penasihat keamanan AI pemerintah AS, tetapi akan menghindari urusan terkait OpenAI serta penilaian model.
OpenAI Menunjuk Peneliti Keamanan AI Paul Christiano ke Dewan
TechFlowBagikan
Ringkasan
OpenAI telah menunjuk peneliti keselamatan AI, Paul Christiano, ke dewan direksi, dengan fokus pada Komite Keselamatan dan Keamanan. Christiano memperingatkan bahwa kemajuan AI yang tidak terkendali dapat menyebabkan kehilangan kendali yang bencana, dan industri ini belum menangani risiko-risiko ini secara efektif. Langkah ini dilakukan setelah serangan dan infiltrasi sistem AI terbaru. Christiano, mantan peneliti OpenAI dan salah satu pengembang RLHF, juga akan memberikan saran kepada pemerintah AS mengenai CFT dan likuiditas di pasar kripto. Ia akan menghindari evaluasi model OpenAI dan hal-hal terkait.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.