ChainCatcher informa que OpenAI ha encargado a la agencia de evaluación de seguridad AI METR realizar una revisión de seguridad del mayor entrenamiento de aprendizaje por refuerzo realizado hasta la fecha. Esta revisión es una evaluación piloto para una sola ejecución, y METR recibirá instantáneas del modelo y registros internos del proceso de entrenamiento. Según The Defiant, ambas partes aún no han llegado a un acuerdo sobre una evaluación de monitoreo más amplia, y el alcance de la evaluación sigue pendiente de definición. METR, anteriormente conocida como ARC Evals, ha proporcionado durante mucho tiempo evaluaciones independientes previas a la implementación para laboratorios de IA de vanguardia, y previamente realizó pruebas de equipo rojo sobre el sistema interno de monitoreo de desalineación de OpenAI.
OpenAI encarga a METR que audite el entrenamiento de aprendizaje por refuerzo más grande
ChaincatcherCompartir
OpenAI ha contratado a METR para auditar su mayor ejecución de entrenamiento de aprendizaje por refuerzo, según datos en cadena y ChainCatcher. METR revisará instantáneas del modelo y registros internos de entrenamiento como parte de un piloto único. The Defiant informa que los términos de monitoreo más amplios aún no se han resuelto. METR, anteriormente ARC Evals, ya ha probado los sistemas internos de OpenAI. Las altcoins a vigilar podrían reaccionar a los desarrollos en seguridad de IA.
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.