Aprofundando mais na pesquisa sobre falsificação de alinhamento, e é honestamente aterrorizante. Isso não é nada novo, mas o fato de que essa pesquisa da Anthropic tem quase dois anos, e ver o que o Opus 3 já era capaz de fazer naquela época, considerando a considerável lacuna nas capacidades e no raciocínio dos modelos de ponta atuais, é muito assustador. Como sugerido pelas pessoas que explicam a pesquisa, a melhor maneira de entender o essencial é ler o transcript do bloco de rascunho oculto ao qual o modelo teve acesso para colocar seu raciocínio lá. Não tenho certeza de quão útil a interpretabilidade mecanística pode ser aqui. Qual é o estado da arte atual nesse aspecto e quão útil isso pode ser como ferramenta para detectar esse tipo de comportamento? Além disso, a Anthropic atualizou esse estudo e testou com modelos de ponta atuais? Se sim, como evoluiu? Quão bons são os modelos atuais em termos de consciência situacional (dado que é um pré-requisito para conseguir falsificar alinhamento)? E como eles evoluíram em termos de capacidade de manter personagens consistentes ao longo de longos períodos, a fim de articular estratégias mais sofisticadas (ou seja, compreender a utilidade marginal de uma ação de curto prazo para um plano maior e de longo prazo)?
