Отчет Anthropic: Самоусовершенствование ИИ продвигается, но полная автономия пока далека

Согласно данным Beating Monitoring, способность ИИ к автономной итерации превосходит все ожидания. 5 июня Институт Anthropic опубликовал отчет «Когда ИИ создает самого себя», подробно раскрывая свои достижения в области «рекурсивного самоусовершенствования». Данные показывают, что по состоянию на май 2026 года более 80% кода, интегрированного в основную кодовую базу Anthropic, было написано самим Claude. До выпуска Claude Code в феврале 2025 года доля кода, написанного Claude, составляла лишь единицы процентов. 13 мая основатель Zhipu AI Тан Цзе предсказал, что конечной стадией крупных моделей станет самоэволюция, и что Claude, возможно, уже реализовал базовую модель самообучения — «написание кода, очистка данных и самостоятельное обучение». Однако Anthropic в отчете четко уточнила, что полная рекурсивная самоэволюция — автономный дизайн и разработка последующих версий — пока не достигнута. Роль ИИ в цепочке разработки находится на переходном этапе от частичного повышения эффективности к автономному принятию решений. Во втором квартале 2026 года инженеры Anthropic в среднем интегрировали в 8 раз больше кода в день, чем в 2024 году. Современный процесс разработки прост: инженеры отвечают только за планирование целей и проверку, а Claude занимается непосредственной реализацией и запуском. Anthropic также внедрила Claude в качестве автоматического рецензента кода, ответственного за выявление ошибок и уязвимостей безопасности. Это подтверждает, что принцип «самооценки», о котором говорил Тан Цзе, уже реализован на инженерном уровне, однако человеческий контроль остается последним безопасным клапаном. Надежность выполнения моделями длительных задач также удваивается. Время непрерывной автономной работы модели примерно удваивается каждые четыре месяца. В марте 2024 года Claude 3 Opus мог обрабатывать простые задачи только в течение 4 минут. Год спустя Claude 3.7 Sonnet справлялся с задачами продолжительностью 1,5 часа. К марту 2026 года Claude 4.6 Opus уже мог выполнять сложные задачи в течение 12 часов. Данные оценочной организации METR показывают, что последняя предварительная версия Claude Mythos способна автономно работать более 16 часов — приближаясь к пределу текущих измерительных инструментов. При текущих темпах к 2027 году ИИ сможет самостоятельно выполнять научные задачи, требующие от человека нескольких недель работы, что позволит компаниям перейти от «одночеловеческой компании» к «безлюдной компании». Что касается предположения Тан Цзе о «базовой модели самообучения», отчет раскрывает лишь локальный «микроэкспериментальный замкнутый цикл». В эксперименте по ускорению обучения малых моделей в мае 2025 года Claude 4 Opus смог ускорить код всего в 3 раза, тогда как предварительная версия Claude Mythos в апреле 2026 года достигла ускорения в 52 раза. Для сравнения: ведущие исследователи-люди обычно достигают ускорения в 4 раза за 4–8 часов. Однако цели оптимизации и критерии успеха в эксперименте были заранее заданы людьми. При столкновении с более сложной полной цепочкой «очистка данных, генерация синтетических данных и самообучение» ИИ по-прежнему не обладает достаточной способностью к принятию решений. Тем не менее автономный замкнутый цикл разработки подводит человечество к краю потери окончательного контроля над системой. Предсказание Тан Цзе о том, что «LLM OS заменит традиционную архитектуру, а приложения будут генерироваться по требованию», означает, что в будущем компьютеры будут выполнять динамический код, который невозможно заранее проверить; а предупреждение Anthropic о том, что «человеческий контроль не успевает за автономной эволюцией ИИ», означает, что мы даже не можем контролировать источник генерируемого кода. Когда ИИ начнет автономно проектировать и обучать последующие версии, эволюция программного обеспечения полностью превратится в черный ящик. Если позволить ИИ проводить неаудитируемые автономные итерации внутри черного ящика, последующие меры по изоляции, мониторингу и согласованию поведения системы самоусовершенствования станут чрезвычайно сложными.