Anthropic утверждает, что путь самосовершенствования ИИ становится ясным, что вызывает дискуссию о нарративе IPO

Автор: LetterAI

Anthropic вчера опубликовала длинную статью под названием «When AI builds itself» (Когда ИИ строит себя), что звучит как одна из научно-фантастических книг Азимова, а тема действительно представляет собой очень научно-фантастическую концепцию: рекурсивное самоусовершенствование.

Проще говоря, раньше человеческие исследователи писали код, проводили эксперименты и обучали модели, чтобы сделать ИИ сильнее. Но если ИИ сам начнет участвовать в проектировании, обучении, тестировании и оптимизации своих последующих версий, скорость прогресса ИИ больше не будет зависеть только от человеческих усилий — она может начать определяться «саморазвитием» ИИ.

Для этого Anthropic обращается с призывом:

We believe that if the world could choose to slow down or temporarily halt the development of frontier AI, allowing social structures and alignment research to catch up with technological progress, it would be greatly beneficial to the world.

Это звучит как предупреждение о безопасности, но на фоне подготовки Anthropic к IPO трудно не воспринимать это как еще одну предварительную нарративную игру: Claude настолько удобен, что начал самостоятельно создавать следующее поколение Claude.

Чтобы продемонстрировать, что ИИ все больше участвует в собственной разработке, Anthropic представила большой объем внутренних данных.

Например, по состоянию на май 2026 года более 80% кода, интегрированного в репозиторий Anthropic, было написано Claude. До выпуска Claude Code этот показатель составлял лишь единицы.

По данным Anthropic, к второму кварталу 2026 года объем кода, ежедневно объединяемого инженерами, увеличился примерно в 8 раз по сравнению с 2024 годом.

Более примечательно, чем объем кода, то, что Claude решает более открытые инженерные задачи.

Anthropic отмечает, что за последний год частота, с которой сотрудники исправляли Claude, возвращали его на правильный путь или брали задачи на себя посреди выполнения, постоянно снижалась. Это изменение наблюдается не только в простых задачах, но и в самых сложных открытых задачах.

Так называемые открытые задачи — это проблемы без четких инструкций. Например, сбой системы или остановка обучающей задачи: изначально инженеры не знают, как выглядит решение, и должны выяснять это по мере диагностики.

Раньше такие задачи в наибольшей степени зависели от человеческого опыта, а в самых открытых задачах成功率 Клауда к маю 2026 года достигла 76%, что на 50 процентных пунктов выше за шесть месяцев.

Кроме написания кода, Anthropic также использует Claude для проверки кода, выявляя ошибки, уязвимости безопасности и другие дефекты. При анализе прошлых инцидентов они обнаружили, что если бы каждое изменение кода ранее проходило автоматическую проверку с помощью Claude, примерно треть ошибок, приведших к сбоям на claude.ai, могла быть остановлена до выхода в продакшн.

Более того, Claude уже участвует в исследовательском процессе.

У Anthropic есть фиксированный тест: дают Claude фрагмент кода для обучения небольшой модели и просят ускорить его выполнение, не изменяя результатов. В мае 2025 года Claude Opus 4 смог достичь ускорения примерно в 3 раза; к апрелю 2026 года Claude Mythos Preview увеличил этот показатель до примерно 52 раз.

Anthropic также упомянула открытый случай исследования безопасности ИИ. Они поставили перед агентом, управляемым Claude, вопрос: может ли более слабая модель надежно контролировать более сильную модель?

Этот процесс требует формулирования гипотез, тестирования гипотез и совместного обмена открытиями с параллельными агентами с повторяющейся итерацией.

Два человеческих исследователя потратили неделю, чтобы сократить разрыв примерно на 23%; в то время как Claude, при затратах примерно 800 часов и 18 000 долларов США на вычислительные ресурсы, сократил его на 97%.

Этот результат, конечно, имеет ограничения: выбор задачи, критерии оценки и отсутствие полной переносимости на модели масштаба производства — всё это определялось людьми. Однако он всё же демонстрирует, что Claude уже способен в рамках исследовательской структуры, заданной человеком, самостоятельно проектировать эксперименты, выполнять их и итерировать.

Кроме того, когда человеческие исследователи ошибаются, Claude может предложить более точные следующие шаги.

Anthropic выбрала 129 внутренних сессий исследования Claude Code, в которых человеческие исследователи совместно с Claude решали открытые исследовательские задачи. Anthropic выделила некоторые узлы, в которых человеческие участники позже оказались на ложном пути, и предоставила контекст до этих узлов различным версиям Claude, чтобы понять, какие шаги они предложат дальше. Затем другой Claude-судья, знающий полный исход сессии, оценил: какой вариант — предложение модели или выбор человека — был лучше.

Результаты показывают, что на узлах, где человеческие исследователи были позже признаны имеющими потенциал для улучшения, Claude все чаще предлагает лучшие следующие шаги.

Раньше прогресс в AI-моделях в основном обеспечивался человеческими исследователями и инженерами. Люди определяли, какие эксперименты проводить, писали код, обучали модели и продвигали функциональные улучшения AI.

Сейчас всё больше звеньев этой цепочки начинают переходить к Claude.

Anthropic предоставила очень наглядную таблицу этапов:

С 2021 по 2023 год Anthropic не отличалась от обычных технологических компаний: люди писали код и документы на ноутбуках.

С 2023 по 2025 год чат-боты начали внедряться в рабочие процессы. Инженеры заставляли модели генерировать фрагменты кода, а затем копировали их в редактор.

В 2025–2026 годах появились программные агенты, Claude начал самостоятельно писать и изменять код, иногда даже полностью завершать файлы.

Сегодня агенты могут самостоятельно запускать код и поручать выполнение задач, занимающих несколько часов, другим агентам.

Далее наступает тот этап, который действительно беспокоит Anthropic: замкнутый цикл.

Если этот день наступит, последующие версии Claude могут постоянно улучшаться самим Claude — это называется рекурсивным самоулучшением.

Anthropic в тексте говорит осторожно: мы еще не дошли до этого этапа, и рекурсивное самоулучшение не является неизбежным. Однако она все еще подчеркивает, что путь к этому этапу уже начал становиться видимым.

Поэтому Anthropic упоминает замедление и даже приостановку в конце статьи. Это не означает, что все компании, занимающиеся ИИ, должны немедленно остановить свою деятельность, а скорее то, что если риск самосовершенствования ИИ в будущем将继续 расти, передовые лаборатории должны разработать согласованную и проверяемую систему замедления.

Другими словами, «точка невозврата» наступает, и человечеству необходимо взять ситуацию под контроль.

На первый взгляд, это очень прогрессивный документ по безопасности. Anthropic говорит о рекурсивном самоусовершенствовании, о том, как ИИ может всё быстрее улучшать себя, и о том, что человеческому обществу необходимо заранее подготовить механизмы замедления и остановки.

Но в контексте времени, когда Anthropic готовится к IPO, эта статья приобретает другой смысл.

В некотором роде недавние действия завода A напоминают отличника в классе, который ведет себя нагло — он действительно способен, но и притворяется тоже.

Он хочет сказать не просто «у нас есть сильный Claude», а шаг дальше — «Claude помогает нам создавать более сильный Claude».

Если Anthropic просто продает модель или инструмент, ей будет сложно полностью избежать прямого сравнения: у Anthropic есть Claude, у OpenAI — GPT; у Anthropic есть Claude Code, у OpenAI — Codex; Anthropic конкурирует за корпоративных клиентов, и OpenAI тоже борется за корпоративных клиентов. Конкуренция между двумя компаниями очень острая — все зависит от того, кто сможет рассказать рынку более убедительную историю.

Следует отметить, что всего три дня назад OpenAI в документе о передовом управлении ИИ написала:

Мы также наблюдаем ранние признаки рекурсивного самосовершенствования в нашей системе сегодня: развитие ИИ само ускоряется с помощью ИИ.

Это усилит конкуренцию между разработчиками и государствами и создаст управленческие вызовы, с которыми текущие институты не смогут справиться.

Через три дня Anthropic заявила: путь Claude к рекурсивному самосовершенствованию уже начинает становиться видимым.

Если Claude развивается так, как того ожидает сама, это будет не просто история продукта, а исследовательский винт.

Клауд пишет код, запускает эксперименты, оптимизирует процессы обучения, а затем использует это для снижения числа инцидентов в собственных продуктах Anthropic… Как только эта система заработает, Клауд станет не просто продуктом Anthropic, но и важным производственным инструментом для Anthropic.

Пользователи видят продукт Claude, корпоративные клиенты покупают возможности Claude, но Anthropic действительно хочет привлечь внимание финансовых рынков к тому, что Claude уже встроен в базовые процессы разработки передовых моделей и установлен в двигатель Anthropic.

Капиталы любят слушать истории о вращающемся колесе, подобном волшебному горшку, приносящему неиссякаемый поток богатства: более мощный Claude позволяет инженерам Anthropic объединять больше кода, больше кода ускоряет итерации продукта и инфраструктуры, более быстрые итерации позволяют исследователям проводить больше экспериментов, а больше экспериментов, в свою очередь, помогает сделать следующее поколение Claude сильнее. Когда следующее поколение Claude становится сильнее, это снова ускоряет разработку Anthropic.

Скорость итераций Claude также поддерживает этот вращающийся механизм. С момента публикации данных, с 2023 года по начало 2025 года основные обновления моделей Claude происходили примерно раз в три-четыре месяца, но после выхода Claude 4 обновления моделей Anthropic стали значительно более частыми.

Claude 4 был выпущен в мае 2025 года, Opus 4.1 — в августе, Sonnet 4.5 — в сентябре, Haiku 4.5 — в октябре, Opus 4.5 — в ноябре.

К 2026 году Opus 4.6 был выпущен 5 февраля, Sonnet 4.6 — 17 февраля, Opus 4.7 — 15 апреля, Opus 4.8 — 28 мая. Между Opus 4.7 и Opus 4.8 прошло всего 42 дня.

Anthropic на поверхности говорит: «Это может быть опасно, нам нужно заранее подготовить тормоза», но одновременно намекает: «Мы уже видели, что происходит, когда мы нажимаем на газ».

В тонкостях повествования об IPO именно в этом и заключается: с одной стороны, он преувеличивает риски, а с другой — завышает свою технологическую позицию.

Не каждая AI-компания имеет право обсуждать рекурсивное самоусовершенствование; сначала вы должны заставить внешний мир поверить, что ваша AI уже включена в процесс разработки ИИ, чтобы иметь право говорить о необходимости глобальной координации.

Как упоминалось ранее, прямо перед тем, как Anthropic опубликовала эту длинную статью, OpenAI только что вынесла на обсуждение рекурсивное самоулучшение.

Но у обеих компаний разные формулировки.

Статья OpenAI «Democratic Governance of Frontier AI» — это политический план, адресованный Вашингтону, который фокусируется не на том, «как сделать модели мощнее», а на том, как ограничить передовые ИИ, если они продолжат стремительно развиваться.

В отчете упоминается множество вещей, которые не стоит подробно описывать, но одна фраза ключевая: OpenAI говорит, что в сегодняшних системах уже можно увидеть ранние признаки рекурсивного самосовершенствования.

Это предложение и эта длинная статья Anthropic на самом деле указывают в одном направлении.

Только OpenAI говорит о системе, а Anthropic — о себе.

OpenAI означає: розвиток ШІ відбувається занадто швидко, і існуючі структури управління можуть не встигати за ним, тому потрібні нові правила.

А Anthropic напрямую показала эту систему рынку, сообщив: Claude уже включен в наш процесс разработки, поэтому мы видим путь саморазгона ИИ.

Это очень хитро сыграно, кажется, внутри OpenAI уже начали спорить — это прям кража идеи! Мы же пришли первыми!

Шутка, но OpenAI действительно нужно поднажать — скорее выводите GPT 5.6.