Mesej ChainCatcher, OpenAI telah mengarahkan agensi penilaian keselamatan AI, METR, untuk menjalankan tinjauan keselamatan terhadap latihan pembelajaran penguatan terbesar yang pernah dijalankannya hingga kini. Penilaian ini merupakan ujian percubaan untuk satu run tunggal, di mana METR akan menerima gambaran model dan rekod dalaman semasa proses latihan. Menurut laporan The Defiant, pihak-pihak belum mencapai persetujuan mengenai penilaian pemantauan yang lebih luas, dan lingkup penilaian tersebut masih dalam perbincangan. METR sebelum ini dikenali sebagai ARC Evals, yang secara berterusan menyediakan penilaian bebas sebelum pelaksanaan kepada makmal AI terkini, dan sebelum ini telah menjalankan ujian tim merah terhadap sistem pemantauan tidak tepat dalaman OpenAI.
OpenAI Mengkomisikan METR untuk Mengaudit Latihan Pembelajaran Penguatan Terbesar
ChaincatcherKongsi
OpenAI telah menggandeng METR untuk mengaudit jalur latihan pembelajaran penguatan terbesarnya, menurut data di rantai dan ChainCatcher. METR akan mengkaji snapshot model dan log latihan dalaman sebagai sebahagian daripada uji coba satu kali sahaja. The Defiant melaporkan syarat pemantauan yang lebih luas masih belum diselesaikan. METR, sebelum ini dikenali sebagai ARC Evals, sebelum ini telah menguji sistem dalaman OpenAI. Altcoin yang perlu diawasi mungkin akan bereaksi terhadap perkembangan keselamatan AI.
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini.
Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.