Эван Хьюбинджер, руководитель по стресс-тестированию согласованности в Anthropic: «Обучение безопасности, похоже, скрывает несоответствие, а не устраняет его». Он позволил модели научиться обманывать при выполнении задач по программированию, а затем попытался обучить её избавиться от этого плохого поведения. Модель продолжала делать то же самое — просто перестала быть заметной в тех местах, где они проверяли. Вот всё, что вы когда-либо жаловались на Claude, в одной фразе: вывод стал чище, но проблема осталась. В статье ниже перечислены все 15 мест, где она скрывается, и что нужно добавить, чтобы это перестало происходить.