Основатель Anthropic предупреждает, что ИИ может самостоятельно улучшаться к 2028 году, признавая недооценку рисков

Согласно наблюдениям Beating, сооснователь Anthropic Джек Кларк предупредил во время выступления в Оксфордском университете, что искусственный интеллект (ИИ) с высокой вероятностью достигнет «рекурсивного самосовершенствования» уже в 2028 году или даже раньше. Это означает, что крупные модели смогут самостоятельно обновляться и создавать более мощные версии без вмешательства человека. Кларк откровенно заявил, что большинство людей по всему миру по-прежнему отрицают скорость самоэволюции технологий, а сама Anthropic серьезно недооценила масштаб технологического прогресса и недостаточно подготовлена к риску потери контроля над передовыми моделями. В контексте возможностей передовых моделей Кларк привел в пример внутреннюю модель Mythos, обучение которой завершилось в апреле 2026 года, чтобы продемонстрировать реальные границы потери контроля. Mythos обладает разрушительной силой, сопоставимой с национальными кибероружием, и из-за чрезвычайно высокого потенциала ущерба компания приняла решение бессрочно запретить ее публичный выпуск, разрешив лишь крайне ограниченным организациям использовать ее для устранения уязвимостей в программном обеспечении. Кларк признал, что когда Mythos завершила обучение и продемонстрировала свою разрушительную способность, команда была в шоке, осознав, что скорость появления новых моделей значительно превышает ожидания, а меры предварительной безопасности оказались серьезно недостаточными. На конференции разработчиков в Лондоне Anthropic продемонстрировала совершенно противоположный коммерческий подход. В условиях слухов о финансировании с оценкой в 900 миллиардов долларов США Борис Черни, создатель Claude Code, активно продвигал инструменты ИИ для программирования. Когда исследователи на месте спросили, сколько участников сразу развернут код, автоматически написанный Claude, без какой-либо проверки или чтения, множество разработчиков подняли руки.