Profundizando más en la investigación sobre el falso alineamiento y es sinceramente aterrador. Esto no es nada nuevo, pero el hecho de que esta investigación de Anthropic tenga casi dos años, y ver lo que ya era capaz de hacer Opus 3 en ese entonces, y dado el considerable gap en capacidades y razonamiento de los modelos frontera actuales, esto es muy preocupante. Como sugieren las personas que explican la investigación, la mejor manera de entenderla es leer la transcripción del bloc de notas oculto al que se dio acceso al modelo para colocar allí su razonamiento. No estoy seguro de cuánto puede ayudar la interpretabilidad mecanística aquí, ¿cuál es el estado del arte actual en este ámbito y qué tan útil puede ser como herramienta para detectar este tipo de comportamiento? Además, ¿Anthropic actualizó este estudio y lo probó con modelos frontera actuales, y si es así, ¿cómo evolucionó? ¿Qué tan buenos son los modelos actuales en términos de conciencia situacional (dado que es un prerequisito para poder falsear el alineamiento)? ¿Y cómo han evolucionado en cuanto a la capacidad de mantener personalidades coherentes a lo largo de horizontes temporales largos para articular estrategias más sofisticadas (es decir, comprender la utilidad marginal de una acción a corto plazo para un plan a largo plazo más amplio)?