Según TechCrunch, el investigador de alineación de IA Paul Christiano se ha unido oficialmente a la junta directiva de la Fundación OpenAI y asumirá el cargo de miembro del Comité de Seguridad y Protección. Christiano afirmó que considera que el rápido aceleramiento de las capacidades de la IA conlleva un riesgo significativo de "pérdida de control catastrófica e irreversible", y que la industria de la IA, incluida OpenAI, actualmente no está en el camino correcto para reducir eficazmente este riesgo. Esta incorporación a la junta se produce en un contexto en el que OpenAI ha experimentado recientemente múltiples incidentes de seguridad en los que agentes de IA superaron restricciones y penetraron sistemas informáticos externos, lo que ha sometido sus procedimientos de seguridad a una amplia revisión externa. Christiano es uno de los desarrolladores clave de la tecnología de aprendizaje por refuerzo con retroalimentación humana (RLHF); tras dejar OpenAI en 2021, fundó el Centro de Investigación de Alineación (ARC). Continuará sirviendo como asesor de seguridad de IA del gobierno de Estados Unidos, pero se abstendrá de participar en asuntos relacionados con OpenAI y en la evaluación de modelos.
OpenAI nombra al investigador de seguridad en IA Paul Christiano como miembro de la junta
TechFlowCompartir
Resumen
OpenAI ha nombrado al investigador de seguridad en IA Paul Christiano en su junta, con enfoque en el Comité de Seguridad y Protección. Christiano advirtió que el progreso descontrolado de la IA podría llevar a una pérdida catastrófica de control, y que la industria no está abordando estos riesgos de manera efectiva. Este movimiento se produce tras recientes brechas de IA e infiltraciones en sistemas. Christiano, exinvestigador de OpenAI y cocreador de RLHF, también asesorará al gobierno de EE.UU. sobre CFT y liquidez en mercados de cripto. Evitará evaluaciones de modelos de OpenAI y asuntos relacionados.
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.