- Anthropic сообщает, что Claude теперь пишет большую часть кода, используемого для разработки собственных ИИ-систем, повышая производительность.
- Компания говорит, что возможности ИИ растут быстрее, и сложность задач удваивается примерно каждые четыре месяца.
- Anthropic предупреждает, что ИИ в конечном итоге может помочь создать более совершенный ИИ, что усложнит контроль и безопасность.
Компания по искусственному интеллекту Anthropic заявляет, что ИИ развивается настолько быстро, что начинает помогать создавать следующее поколение систем ИИ. Компания предупреждает, что это в конечном итоге может затруднить людям сохранение контроля над развитием ИИ.
В новой исследовательской работе Anthropic обсудили возможность «рекурсивного самоусовершенствования». Это ситуация, при которой ИИ-системы проектируют, создают и обучают более продвинутые ИИ-системы с минимальным участием человека.
Компания подчеркнула, что это еще не произошло и может никогда не произойти. Однако она считает, что правительствам, регуляторам и технологическим компаниям следует начать готовиться сейчас.
«Мы еще не достигли этого, и рекурсивное самоусовершенствование не является неизбежным. Но оно может наступить раньше, чем готовы большинство институтов», — сказала Anthropic.
Claude играет более важную роль в развитии ИИ
Anthropic утверждает, что её модель Claude AI значительно вышла за рамки простого помощника по программированию.
Компания описала, как развивались инструменты ИИ. Сначала инженеры писали код самостоятельно. Позже чат-боты помогали с небольшими задачами программирования. Затем появились AI-агенты для кодирования, которые могли редактировать файлы и управлять проектами самостоятельно.
Сегодня ИИ-агенты могут писать и запускать код, самостоятельно выполнять задачи и даже распределять работу между другими ИИ-агентами. Согласно Anthropic, следующим шагом станут ИИ-системы, которые активно помогают создавать и обучать будущие ИИ-модели.
Компания сообщила, что Claude теперь пишет большую часть кода, используемого для разработки собственных ИИ-систем Anthropic. В результате разработчики стали намного продуктивнее. Anthropic утверждает, что средний инженер теперь создает примерно в восемь раз больше кода в день, чем в 2024 году.
См. также: Президент Anthropic говорит, что рост затрат на обучение ИИ стимулирует планы IPO
Возможности ИИ растут быстрее
Anthropic утверждает, что публичные тесты и внутренние исследования показывают, что возможности ИИ быстро улучшаются. Компания заявляет, что длина и сложность задач, которые ИИ может надежно выполнять, удваиваются примерно каждые четыре месяца. Ранее этот темп роста составлял около семи месяцев.
Anthropic указала на прогресс своих моделей Claude в качестве примера. В марте 2024 года Claude Opus 3 могла выполнять задачи по программной инженерии, которые у человека занимали бы около четырех минут. Год спустя Claude Sonnet 3.7, по сообщениям, смогла завершить задачи, требующие около 90 минут человеческой работы.
К 2026 году, как сообщалось, Claude Opus 4.6 мог справляться с задачами, эквивалентными примерно 12 часам человеческих усилий.
Возможности исследования Клода также улучшились. В одном из внутренних проектов агенты на основе Клода решили почти всю крупную исследовательскую задачу.
Anthropic также сообщила, что成功率 Клауда в сложных задачах программирования достигла 76% в мае 2026 года, что является значительным улучшением по сравнению с шестью месяцами ранее.
Три возможных фьючерса для ИИ
Anthropic обозначила три возможных пути развития ИИ. Первый — замедление, при котором прогресс становится всё труднее достигать с течением времени.
Второй — это будущее, в котором ИИ продолжает повышать производительность, а люди остаются в контроле над важными решениями и надзором.
Третий и самый драматичный сценарий — это когда системы ИИ начинают создавать собственных преемников, что приводит к гораздо более быстрому прогрессу.
На основе текущих данных Anthropic считает, что второй сценарий наиболее вероятен. Однако компания отмечает, что по-прежнему существует неопределенность относительно скорости, с которой могут развиваться возможности ИИ.
Человеческий контроль может стать самым большим вызовом
Anthropic утверждает, что у людей по-прежнему есть важные сильные стороны, включая суждение, стратегическое мышление и определение того, какие проблемы стоит решать. Однако компания считает, что наибольшей проблемой вскоре может стать человеческий надзор, а не сама разработка ИИ.
По мере того как ИИ-системы становятся более способными, людям может становиться все труднее проверять, верифицировать и безопасно контролировать их работу.
Из-за этого Anthropic предлагает правительствам и ведущим компаниям в области ИИ иметь планы на случай, если прогресс начнёт ускоряться быстрее, чем общество сможет безопасно справляться с ним.
Компания отметила, что любое значимое замедление, вероятно, потребует международного сотрудничества. Если только одна компания приостановит разработку, конкуренты смогут продолжать продвигаться вперед, что снизит эффективность меры безопасности.
На данный момент Anthropic утверждает, что рекурсивное самоусовершенствование остается возможностью, а не гарантией. Однако по мере того как Claude играет все более важную роль в создании будущих систем ИИ, компания считает, что обсуждения управления ИИ, надзора и безопасности следует начинать как можно раньше.
См. также: Убивает ли ИИ bitcoin? Почему капитал сейчас перераспределяется в технологии ИИ
Отказ от ответственности: Информация, представленная в этой статье, предназначена исключительно для информационных и образовательных целей. Статья не является финансовой консультацией или консультацией любого рода. Coin Edition не несет ответственности за любые убытки, понесенные в результате использования упомянутого контента, продуктов или услуг. Читателям рекомендуется проявлять осторожность перед принятием любых действий, связанных с компанией.