27-летний британский исследователь, работавший над предобучением в Anthropic, публично уволился, предупредив, что гонка за созданием рекурсивно самоусовершенствующегося ИИ может привести к вымиранию человечества до конца десятилетия.
Джейкоб Коксон покинул одну из самых известных компаний в мире, занимающихся безопасностью ИИ, примерно 8–9 сентября, и его прощальное сообщение не было вежливой публикацией в LinkedIn о «захватывающих новых главах». Это было предупреждение о том, что люди, создающие эти системы, действительно считают, что могут вызвать катастрофические последствия, и срок потери контроля над ситуацией может наступить уже в следующем году.
Внутренний сигнал тревоги
То, что делает отставку Коксона особенно трудно игнорировать, — это то, что произошло дальше. Его собственные коллеги из Anthropic начали публично с ним соглашаться.
Эван Хубингер, занимающий должность руководителя научной группы по согласованию в Anthropic, подтвердил утверждения Коксона в социальных сетях. Его личная оценка: вероятность того, что ИИ приведет к массовой гибели людей в течение следующего десятилетия, превышает 10%.
Хубингер зашел дальше, признав, что у Anthropic нет четкого плана обеспечения согласованности с суперинтеллектуальными системами.
Самуэль Маркс, еще один исследователь Anthropic, выразил аналогичные опасения, отметив, что старшие сотрудники компании особенно обеспокоены рисками, способными привести к вымиранию.
Коксон специально критиковал использование терминов вроде «crunchtime» и «endgame» в кругах разработчиков ИИ. Эти слова подают поиск сверхинтеллекта как нечто срочное и неизбежное, как соревнование, которое нужно выиграть, а не как риск, который нужно управлять. Такой подход, по его мнению, является частью проблемы.
Паттерн выходов
Коксон — не первый исследователь, ориентированный на безопасность, который покинул Anthropic из-за опасений по поводу направления компании. Мринанк Шарма, возглавлявший команду исследований в области защиты, уволился в феврале 2026 года. Шарма указал на растущую опасность, связанную с ИИ и биологическим оружием, сославшись на внешнее давление, которое, по его словам, подрывает этическое поведение компании.
Ирония налицо. Anthropic была основана бывшими сотрудниками OpenAI, включая генерального директора Дарио Амодеи, именно потому, что они считали, что OpenAI недостаточно серьезно относится к безопасности. Она должна была стать альтернативой с приоритетом безопасности. Теперь собственные исследователи безопасности покидают компанию, потому что считают, что Anthropic тоже недостаточно серьезно относится к безопасности.
Конкуренция как ускоритель
Предупреждение Коксона специально выделило международную конкуренцию как фактор, усугубляющий ситуацию. Давление, связанное с необходимостью угнаться за конкурентами, особенно китайскими лабораториями ИИ, создает среду, в которой замедление для обеспечения безопасности воспринимается как одностороннее разоружение.