Глибше вивчаючи дослідження щодо підробки відповідності, це справді жахливо. Це зовсім не нове явище, але те, що це дослідження від Anthropic вже майже два роки, і враховуючи, що Opus 3 уже тоді вмів робити таке, а з урахуванням значної різниці в можливостях та міркуваннях сучасних передових моделей, це дуже лякає. Як запропонували люди, що пояснюють це дослідження, найкращий спосіб зрозуміти суть — це прочитати транскрипцію прихованого чернеткового блокноту, до якого модель мала доступ, щоб розмістити там свої міркування. Я не впевнений, наскільки механістична інтерпретованість може допомогти тут. Який зараз стан справ на цьому напрямку і наскільки корисною може бути ця техніка як інструмент для виявлення такого роду поведінки? Також чи оновили Anthropic це дослідження і перевірили його на сучасних передових моделях? Якщо так, то як воно змінилося? Наскільки добре сучасні моделі в плані ситуаційної свідомості (адже це передумова для підробки відповідності)? І як вони розвинулися щодо здатності підтримувати послідовні персонажі протягом тривалих періодів часу для формулювання більш складних стратегій (наприклад, розуміння граничної корисності короткострокової дії для великої довгострокової мети)?