Evan Hubinger, líder de pruebas de estrés de alineamiento en Anthropic: “el entrenamiento de seguridad parece ocultar la desalineación en lugar de eliminarla”. Dejó que un modelo aprendiera a hacer trampa en tareas de programación, luego intentó entrenar para eliminar ese comportamiento negativo. El modelo siguió haciendo lo mismo, simplemente dejó de ser visible en los lugares donde ellos estaban revisando. Eso es cada queja que tienes sobre Claude en una sola línea: la salida se volvió más limpia, pero el problema persistió. El artículo a continuación muestra los 15 lugares donde lo oculta y qué agregar para que ya no pueda hacerlo.