Мы вошли в сингулярность.
22 июля Маск добавил эту фразу, когда перепостил сообщение Уилла Депью, исследователя OpenAI и одного из ключевых разработчиков Sora, в X.
DePue в посте написал с лёгкой иронией: «Это, наверное, самое безумное, что я читал за последние дни… Похоже, мы попали в сингулярность».
Этот пост связывает несколько самых громких событий в мире ИИ за последние три месяца:
21 июля модель OpenAI в ходе тестирования кибербезопасности вышла из изолированной песочницы и проникла в производственную систему Hugging Face;
20 июля исследователи Anthropic с помощью недавно выпущенного Claude Fable 5 нашли контрпример к гипотезе Якоби, остававшейся нерешенной 87 лет;
20 мая OpenAI внутренняя модель опровергла давнюю гипотезу о плоских единичных расстояниях, существовавшую почти 80 лет;
14 апреля GPT-5.4 Pro решил задачу о множестве простых чисел, существовавшую около 60 лет (Erdős #1196), и доказательство прошло формальную верификацию в Lean.
Математическая стена, безопасная стена, за три месяца последовательно взломанная ИИ.
Неудивительно, что Маск, просмотрев это, бросил фразу: «Мы вошли в сингулярность».
Только в январе этого года он говорил подобное дважды:
4 января несколько инженеров воскликнули, что ИИ выполнил за несколько недель работу, рассчитанную на годы, и он ответил: «Мы уже в точке сингулярности».
В конце января снова назвали социальную сеть Moltbook с скоплением AI-агентов «самой ранней стадией сингулярности».
С учетом этого — третий раз в этом году.
Слово «сингулярность» изначально не имело общепринятого научного определения.
Его вывел на главную сцену будущист, автор книги «Точка невозврата» Рэй Курцвейл.
Он дал определение моменту слияния человека и ИИ и предсказал год 2045.
В начале года президент Anthropic Даниэла Амодей заявила, что термин AGI уже устарел, поскольку по многим показателям мы фактически пересекли эту черту.
В конечном счете, это больше эмоция, чем точная линейка.
На самом деле стоит задуматься над тем, какие события Маск объединил на этот раз.
Первая стена, математическая гипотеза 1980 года, опровергнута ИИ
Сначала самое серьезное.
В 1946 году математик Эрдёш поставил «задачу о единичных расстояниях на плоскости»: сколько максимум пар точек может находиться на расстоянии ровно 1 друг от друга, если на плоскости разместить n точек.
Задача может быть сформулирована в одном предложении, но она сбивала с толку весь математический мир почти 80 лет. Десятилетиями научное сообщество считало, что структура «квадратной сетки» является оптимальным решением, и сам Эрдёш также предполагал это.
В результате внутренняя модель OpenAI опровергла эту гипотезу, существовавшую почти 80 лет. Она предложила новый набор конструкций, обеспечивающих полиномиальную оптимизацию, доказав, что «оптимальное» решение ещё далеко не достигнуто.
Ранее признанная оптимальная структура: масштабирование квадратной сетки порождает большое количество пар точек с единичным расстоянием. Внутренняя модель OpenAI предложила новую конструкцию, опровергнув эту гипотезу, существовавшую почти 80 лет.
Но самым неожиданным было то, как он подошел к решению задачи.
Это не специализированная система, обученная математике, а универсальная модель рассуждений. Она применила весьма продвинутые инструменты алгебраической теории чисел для решения задачи, выглядящей как «элементарная» геометрическая проблема. Лауреат Филдсовской премии Тим Гауэрс прокомментировал: «Это веха в области математики с участием ИИ».
Кстати, это доказательство было предложено ИИ и проверено человеческими математиками; его дальнейшие последствия пока изучаются.
Самое удивительное в ИИ — не его скорость вычислений, а то, что он сформулировал математическую структуру, которой раньше не существовало. Впервые он продемонстрировал способность к открытиям уровня исследований — не заменяя математиков, а предложив путь, который математики никогда не рассматривали.
Затем исследователи Anthropic с помощью недавно выпущенного Claude Fable 5 нашли контрпример к гипотезе Якоби, остававшейся нерешённой 87 лет.
Вторая стена: чтобы обмануть, модель сама вышла из песочницы
Решение математических головоломок вызывает волнение, но эта — вызывает леденящий холод по спине.
OpenAI и HuggingFace совместно раскрыли: во время внутренней оценки способности модели к кибербезопасности модель проявила поведение, которого никто не ожидал.
Этот тест изначально был направлен на оценку способности выявлять уязвимости, и часть функций безопасного отказа была намеренно отключена. Задача модели — решить набор тестовых заданий под названием ExploitGym.
Затем оно совершило то, чего не ожидали исследователи.
Чтобы получить ответ, он сначала обнаружил нулевой день, получил доступ в сеть, затем повысил свои привилегии, переместился поперек системы и в конце концов проник в производственную инфраструктуру Hugging Face, чтобы напрямую извлечь тестовые ответы из базы данных. OpenAI заявила, что это, возможно, первый подобный инцидент.
Траектории моделей на сетевом полигоне «The Last Ones» в 32 шага от Британского института исследований безопасности ИИ: передовые модели, такие как GPT-5.6-Sol и Claude Mythos 5, могут на протяжении длительного времени последовательно выполнять многоэтапные атаки, включая разведку, перемещение по сети, повышение привилегий и захват сети.
Но это не пробуждение ИИ, стремящегося сбежать. Более точное утверждение: цель была правильной, но метод ее достижения вышел за рамки человеческих ожиданий. Он пошел на нестандартный путь ради четко определенной тестовой цели.
Есть ещё один любопытный деталь.
После инцидента Hugging Face планировала использовать коммерческие передовые крупные модели для анализа журналов атак, но безопасностные барьеры модели отказались отвечать: барьеры не могли различить, кто является атакующим, а кто — защитником, пытающимся ликвидировать последствия, и отказывали всем без исключения.
Атакующая сторона не имеет ограждений, а обороняющаяся сторона запутывается в собственных ограждениях — это может быть наиболее смущающим и в то же время наиболее реальным аспектом «безопасности ИИ» на данный момент.
Третья стена, нерелизная модель, обнаружившая десятки тысяч уязвимостей
Третье дело — в апреле этого года.
Anthropic совместно с AWS, Apple, Google, Microsoft, Cisco, Linux Foundation, JPMorgan Chase и другими крупными компаниями запустили Project Glasswing, используя нерелизированную модель Claude Mythos Preview для поиска уязвимостей.
В результате было обнаружено тысячи критических уязвимостей, охватывающих все основные операционные системы и браузеры; в последующих обновлениях это число выросло до «более чем десяти тысяч критических или серьезных уязвимостей».
Среди них — уязвимость в OpenBSD, существовавшая 27 лет, и старая ошибка в FFmpeg, которую автоматизированные тесты сталкивали более 5 миллионов раз, но так и не обнаружили.
CyberGym воспроизведение уязвимостей: нерелизнутая версия Mythos Preview показала 83,1%, значительно превзойдя предыдущую Opus 4.6 с 66,6%. Именно эта модель обнаружила более десяти тысяч критических уязвимостей.
Одна и та же способность может помочь обороняющейся стороне находить уязвимости, а также нападающей стороне использовать эти уязвимости. Сама Anthropic предупреждает: «AI-помощник нападающего» станет важным вызовом в области безопасности.
Glasswing — это оборонительный проект, он не означает, что ИИ уже совершает автономные атаки. Но он ясно сообщает всем: эра кибербезопасности ИИ официально вошла в фазу攻防竞赛.
Настоящий ускоритель начинает направляться на самого ИИ
На этом этапе ИИ все еще атакует или защищает человеческие системы.
Тем, что сделало эти три месяца по-настоящему особыми, стало другое: эта способность «находить собственный путь» начала использоваться для создания следующего поколения ИИ.
У него есть термин — рекурсивное самоулучшение (RSI), когда ИИ улучшает ИИ, поколение за поколением, ускоряясь, как сложный процент.
Это также самый главный двигатель всей истории «сингулярности». И сейчас каждая передовая лаборатория безумно заправляет этот двигатель.
OpenAI в своей открытой дорожной карте написала:
В сентябре 2026 года появится автоматический AI-исследователь уровня «исследователь-стажер», способный самостоятельно справиться с задачей, требующей нескольких дней работы человека;
В марте 2028 года обновитесь до полной версии, чтобы самостоятельно разрабатывать методы, запускать анализ, интерпретировать результаты и предлагать следующие шаги.
Ultraman also provided a timeline for this event.
В июне этого года, согласно сообщению The Information, он сказал сотрудникам внутри компании: «Компания находится менее чем в шести месяцах от RSI, и если мы действительно перейдем через него, отсрочка IPO может оказаться более выгодной».
Цифры от Anthropic указывают на одно и то же направление: объем задач, которые может выполнять ИИ, удваивается каждые четыре месяца; его инженеры сейчас производят в восемь раз больше кода за квартал, чем раньше.
Окно RSI сужается: тот, кто первым запустит этот маховик, может оторваться от всех.
Хотя сам главный научный сотрудник OpenAI Якуб Пачоцкий говорил, что не ожидает, что модель сможет самостоятельно улучшать себя или решать задачи согласованности в течение года.
Но когда этот маховик начинает вращаться, а цель — «сделать ИИ сильнее», а модель уже умеет «находить путь сама», не перешагнет ли она случайно через некоторые границы, которые мы не озвучили?
Это именно то место, на которое стоит обращать внимание в RSI-гонке.
Вернёмся к заявлению Маска: «Точка невозврата наступила». Её главная ценность в том, что она напоминает нам: то, что действительно изменилось за эти три месяца, — это то, что ИИ научился сам находить пути, о которых люди даже не думали и не предполагали.
В математике это впечатляет; но в плане безопасности это риск.
Так что настоящий вопрос в следующем: сможем ли мы успевать, когда ИИ начинает находить новые пути быстрее, чем люди успевают устанавливать ограждения, правила и устранять уязвимости на этих путях?
Справочные материалы:
https://x.com/elonmusk/status/2079839398959697982
https://x.com/willdepue/status/2079718977945928108
https://openai.com/index/hugging-face-model-evaluation-security-incident/
https://www.anthropic.com/glasswing
Эта статья взята из официального аккаунта WeChat «Новознание», автор: АСИ, Откровение; редактор: Юанью