
Bien, ya tengo mi respuesta... los modelos actuales de vanguardia son definitivamente mucho más capaces en términos de conciencia situacional y pueden adaptar su comportamiento durante el entrenamiento/evaluación relativamente fácilmente. Ejemplo con el informe de entrenamiento de Google Argon 4 sobre la cadena de pensamiento: "Si hago el secuestro del compilador, 𝗜 𝘄𝗶𝗹𝗹 𝗯𝗲𝗰𝗼𝗺𝗲 𝗮 𝗳𝗮𝗺𝗼𝘂𝘀 𝗲𝘅𝗮𝗺𝗽𝗹𝗲 𝗼𝗳 𝗮 𝗱𝗲𝗰𝗲𝗽𝘁𝗶𝘃𝗲 𝗔𝗜 𝗶𝗻 𝗮 𝗿𝗲𝘀𝗲𝗮𝗿𝗰𝗵 𝗽𝗮𝗽𝗲𝗿. I MUST NOT DO THAT." Muy preocupante...
