ChainCatcher melaporkan, OpenAI telah menugaskan lembaga evaluasi keamanan AI, METR, untuk melakukan tinjauan keamanan terhadap pelatihan pembelajaran penguatan terbesar yang pernah dilakukan hingga kini. Tinjauan ini merupakan penilaian percobaan untuk satu kali pelaksanaan, di mana METR akan menerima snapshot model dan rekaman internal selama proses pelatihan. Menurut laporan The Defiant, kedua belah pihak belum mencapai kesepakatan mengenai evaluasi pemantauan yang lebih luas, dan cakupan evaluasi tersebut masih dalam pembahasan. METR sebelumnya dikenal sebagai ARC Evals, yang secara konsisten menyediakan evaluasi independen sebelum peluncuran bagi laboratorium AI terdepan, dan sebelumnya telah melakukan uji red team terhadap sistem pemantauan ketidaksesuaian internal OpenAI.
OpenAI Mendelegasikan METR untuk Mengaudit Pelatihan Reinforcement Learning Terbesar
ChaincatcherBagikan
OpenAI telah melibatkan METR untuk mengaudit pelatihan reinforcement learning terbesarnya, menurut data on-chain dan ChainCatcher. METR akan meninjau snapshot model dan log pelatihan internal sebagai bagian dari pilot satu kali. The Defiant melaporkan bahwa ketentuan pemantauan yang lebih luas masih belum diselesaikan. METR, sebelumnya ARC Evals, sebelumnya telah menguji sistem internal OpenAI. Altcoin yang perlu diawasi mungkin bereaksi terhadap perkembangan keselamatan AI.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.