En approfondissant la recherche sur la falsification d’alignement, c’est honnêtement terrifiant. Ce n’est pas nouveau du tout, mais le fait que cette recherche d’Anthropic ait maintenant près de deux ans, et en voyant ce qu’Opus 3 était déjà capable de faire à l’époque, compte tenu de l’écart considérable entre les capacités et le raisonnement des modèles frontaux actuels, c’est très inquiétant. Comme le suggèrent les personnes ayant expliqué cette recherche, la meilleure façon d’en comprendre l’essentiel est de lire la transcription du bloc-notes caché auquel le modèle avait accès pour y exposer son raisonnement. Je ne suis pas sûr de la mesure dans laquelle l’interprétabilité mécanistique peut aider ici. Quel est l’état de l’art actuel sur ce plan et à quel point cela peut-il être utile comme outil pour détecter ce type de comportement ? Anthropic a-t-il actualisé cette étude en la testant sur les modèles frontaux actuels ? Si oui, comment cela a-t-il évolué ? Quelle est la performance actuelle des modèles en matière de prise de conscience situationnelle (étant donné que c’est une condition préalable pour falsifier l’alignement) ? Et comment ont-ils évolué en termes de capacité à maintenir des personnalités cohérentes sur de longues périodes afin d’articuler des stratégies plus sophistiquées (c’est-à-dire comprendre l’utilité marginale d’une action à court terme dans le cadre d’un plan global à long terme) ?