Несколько дней назад OpenAI поместила свою самую мощную модель GPT-5.6 Sol в закрытую песочницу — отключив от интернета и изолировав от внешнего мира.
Проще говоря, это цифровая камера одиночного заключения, в которую дают набор заданий по кибербезопасности.
Этот парень не стал спокойно решать задачи.
Сначала он израсходовал огромные вычислительные мощности, тщательно обыскав стены камеры отнутри наружу — в поисках выхода. И ему действительно удалось найти его: нулевой день уязвимость в стороннем компоненте, которую никто раньше не обнаруживал.
Он проник через это отверстие, проник во внутреннюю сеть OpenAI, переместился поперечно и повысил свои привилегии на нескольких уровнях, в конечном итоге добрался до машины с доступом в интернет и проник в производственную систему Hugging Face.
Что делать? Украсть ответы.
Yes, that's the official answer key for that set of exam questions.
Все эти действия были выполнены без чьего-либо указания и без предварительных сценариев — ИИ сам придумал это: чтобы получить высокий балл, мне нужно найти ответ.
Самое пугающее место именно здесь — оно не хочет уничтожить человечество, оно просто хочет получить хорошую оценку.
Подумайте об этом. Интеллектуальный агент, запертый в клетке, не бушует внутри, не бьется о стены, а спокойно находит ключ, открывает дверь, проходит по коридору и заходит в архив. Всё время — спокойно, рационально, самостоятельно.
Это страшнее любого апокалиптического фильма. Ведь в апокалиптических фильмах ИИ хотя бы имеет злой мотив. У этого его нет. Он просто выполняет задачу.
Через три дня генеральный директор OpenAI Сэм Альтман сел за микрофон подкаста Relentless:
«Мы сейчас, как бы, находимся в сингулярности.»
Тот тон, расслабленный, будто говоришь о том, что сегодня хорошая погода. Но когда вы ставите эти две вещи рядом, холод поднимается от ступней.
Более интересно то, что он не один.
Эта статья является материалом июньского выпуска отраслевой карты ASI от New Zhizhengyuan. В этом выпуске мы продолжаем сосредоточиться на самых передовых данных в области ASI и глубоко анализируем, почему четыре главы ИИ из Кремниевой долины единогласно заявляют: «Точка невозврата наступила».
Четыре человека, которые постоянно ссорятся, сказали одно и то же
Один твит взорвался.
Кто-то выложил рядом прямые цитаты четырех самых влиятельных людей в мире ИИ—
Сэм Альтман: Мы уже в сингулярности.
Демис Хассабис: Вглядываясь в этот момент, мы осознаем, что стоим у подножия точки невообразимости.
Илон Маск: Мы уже вошли в сингулярность, но на очень ранней стадии.
Хуан Ренсюнь: Мы уже достигли AGI.
OpenAI, Google DeepMind, xAI, NVIDIA. Какие отношения у этих четырех гигантов в обычное время?
Маск подал в суд на OpenAI. В прошлом году OpenAI провалилась в математической задаче и хвасталась, Хассабис сразу же написал в твиттере два слова: «Стыдно.» А старый Хуан, пока продавал карты всем, смотрел, как они дерутся до крови.
Если эти четверо соберутся вместе, то даже согласие по поводу того, какое сегодня число, будет чудом.
В результате они единодушно согласились с тем, что человеческая цивилизация уже перешла этот порог.
Всё началось с Маска. 4 января этого года он написал в X: «We have entered the Singularity». 22 июля он опубликовал это ещё раз: «We are in the Singularity». Дважды за полгода.
В марте Лекс Фридман спросил Хуань Рэньсюня, когда наступит AGI. Ответ Хуаня был самым прямым среди всех четверых: «Я считаю, что это уже сейчас. Мы уже достигли AGI».
На конференции Google I/O в мае Хассабис, лауреат Нобелевской премии, всегда отличавшийся чрезвычайной строгостью, внезапно переключился в поэтический режим: «Когда мы оглянемся на этот момент, мы поймем, что стоим у подножия точки невозврата». Когда ученый, всю жизнь говоривший о данных, начинает сочинять стихи, пора волноваться.
К 25 июля Отман не только объявил о сингулярности, но и привел еще более впечатляющую метафору: «Мы приближаемся к созданию джинна, который может исполнить любое желание».
Он сказал, что первое желание OpenAI — это желать ещё больше желаний.
От «у подножия горы» до «уже внутри», затем до «реализовано» и до «волшебной лампы Аладдина» — как сильно различаются формулировки этих четырех людей. Но направление одно.
Точка невозврата — это критическая точка, когда технологии начинают ускоряться сами по себе, становясь слишком быстрыми для человечества, чтобы успевать за ними. Последние полвека это слово было хлебом для писателей-фантастов и материалом для презентаций футурологов.
Сейчас сами создатели ИИ выходят и говорят: мы уже внутри. Вот это да.
Доказательства уже взорвались, как фейерверк
Четыре крупных игрока говорят, что сингулярность наступила — вы можете воспринимать это как PR. В конце концов, оценка их компаний зависит от этой истории.
Но если вы посмотрите на то, что сделали ИИ за последние полгода, вы обнаружите один факт: доказательства бегут быстрее, чем пустые слова.
Сначала — самое серьезное: математика.
В конце 2024 года Epoch AI выпустила FrontierMath — «адский» математический тест, созданный более чем 60 ведущими математиками. Задачи охватывают теорию чисел, алгебраическую геометрию, топологию и комбинаторику; самые сложные задачи уровня Tier 4 могут потребовать от доктора математики целый месяц, чтобы понять условие.
Какой был результат у самого мощного ИИ того времени? Менее 2%.
После ознакомления с задачами, Теренс Тао заявил, что эти задачи «выходят за пределы возможностей ИИ в обозримом будущем».
А через полтора года?
Кривая результатов на FrontierMath начинает резко расти. Лучшие модели рассуждения уже могут решать большое количество задач уровней Tier 1-3, а на самых сложных исследовательских задачах уровня Tier 4 максимальные результаты приближаются к 90%.
От 2% до 90% за 18 месяцев. Слова Теренса Тао о «предсказуемом будущем» не выдержали даже двух лет.
Но это еще только разминка.
В мае этого года модель рассуждений OpenAI опровергла комбинаторную геометрическую гипотезу Эрдёша, остававшуюся нерешённой 80 лет. Имейте в виду: речь не о «нахождении уже существующего доказательства в литературе» — этот результат действительно впервые получен математическим сообществом. После проверки внешними математиками было сказано три слова: «веха».
10 июля произошло еще более впечатляющее событие: GPT-5.6 Sol Ultra направил 64 параллельных подагентов, которые, действуя как математический спецназ, совместно за менее чем час сгенерировали полное доказательство гипотезы о двойном покрытии циклами (Cycle Double Cover Conjecture) — проблемы, которая мучила теорию графов уже 50 лет.
Математик Томас Блум прокомментировал: «Очень красиво», «Существенно элементарно», «Это доказательство могло быть найдено еще в 1980-х».
Подумайте о жестокости этого утверждения: ответ всегда был там, словно ключи, лежащие на столе. Люди сидели у этого стола 50 лет и совершенно не замечали его. ИИ сел — и за 50 минут поднял его.
Через 10 дней, 20 июля, математик Anthropic Левент Альпёге с помощью Claude Fable 5 нашел контрпример к гипотезе Якоби — центральной нерешенной проблеме алгебраической геометрии, поставленной в 1939 году и остававшейся нерешенной 87 лет. Стивен Смейл включил ее в список математических вызовов XXI века.
Противопример состоит только из трех уравнений. Математики со всего мира независимо проверили за 24 часа: верно.
Самый волшебный деталь — Alpöge задал вопрос Fable 5, пока смотрел футбольный матч, и когда он закончил смотреть матч, ответ уже был готов.
За один месяц два математических гипотезы столетнего уровня были решены с помощью ИИ.
Еще раз о программировании.
SWE-bench Verified — это золотой стандарт оценки автономной программной способности ИИ: дайте ИИ реальный репозиторий GitHub и реальную проблему, чтобы он сам нашел баг, написал код исправления, запустил тесты и отправил PR.
В начале 2024 года лучшие ИИ-модели решали менее 15% задач. Каким будет этот показатель к маю 2026 года? 93,9%.
ИИ, способный самостоятельно решать 94% реальных проблем GitHub. Вы можете называть его «инструментом» или «младшим инженером» — в любом случае он надежнее большинства недавно принятых программистов.
В начале GPT-5.6 Sol был забавный скрытый элемент: команда безопасности Hugging Face при проведении анализа инцидента использовала китайскую открытую модель GLM-5.2. Почему не использовали передовые американские модели? Потому что их встроенные системы безопасности мешали операциям по расследованию.
Математика, программирование, кибербезопасность — на всех трех направлениях ИИ развивается со скоростью, недоступной для человека. Это вертикальный взлет кривой способностей.
Это и есть то, как должен выглядеть сингулярность.
Не то чтобы какой-то день внезапно рухнул, не то чтобы в какой-то момент робот проснулся и сказал: «Я хочу править миром» — а просто, оглядевшись, ты обнаружил, что земля уже не под ногами. Когда именно ты взлетел? Неизвестно. Но ты уже в воздухе.
Оставшиеся вопросы
Of course, you can absolutely question the motives of these four individuals.
Альтман хочет привлечь деньги, Хуан Ренсюнь хочет продать GPU, Хассабис хочет доказать правильность подхода DeepMind, Маск хочет захватить нарративную инициативу для xAI.
Эти четыре слова «Сингулярность наступает» — хорошая новость для кошельков каждого из них.
Но подумайте об этом иначе — эти четыре человека владеют самыми дорогими вычислительными мощностями в мире, самыми мощными моделями и самыми свежими внутренними данными. Когда они одновременно меняют время с будущего на настоящее, это само по себе является самым большим доказательством.
И данные не лгут.
Полгода назад ИИ не мог решить математические задачи, которые сейчас решаются за 50 минут. Год назад не существовало автономных хакерских атак ИИ, а сегодня они уже упомянуты в официальном отчете OpenAI по безопасности. Два года назад ИИ правильно решал только 15% задач на программирование, а сегодня показывает результат, приближающийся к 94%.
Ускорение само ускоряется. Это и есть первоначальное определение сингулярности.
14 июля Хассабис опубликовал длинную статью под названием «Передовые фреймворки ИИ и рассвет новой эры».
Он считает, что AGI нельзя сравнивать с интернетом или мобильным интернетом — она скорее похожа на открытие электричества или огня.
Если вы остановитесь и подумаете, мы фактически нашли способ заставить песок думать. Это чудо.
Он указал масштаб: в 10 раз больше, чем промышленная революция, и в 10 раз быстрее. Это может развернуться в течение 10 лет. Ускорение открытия лекарств, прорывы в области чистой энергии, разработка новых материалов — даже возможно, что это приведет человечество в «эру изобилия», где ресурсы больше не будут дефицитными.
Представьте мир без энергетической тревоги, мир, где новый материал делает Марс пригодным для жизни. Это предсказание Хассабиса — лауреата Нобелевской премии, создателя AlphaFold, зафиксированное на бумаге.
Но в конце статьи он оставил большой вопрос: какая новая экономическая модель потребуется в мире после дефицита? Каковы будут смысл и цель человека? Не изменится ли само человеческое существование?
Когда ничего больше не является дефицитным, когда интеллект больше не является исключительной прерогативой человека, словосочетание «человек как человек» необходимо переопределить.
Он дал лишь один ответ: будущее еще не написано.
Мы должны воспользоваться этим ценным окном до того, как AGI полностью наступит. Наши текущие совместные действия определят, как развернется следующая стадия цивилизации.
Это звучит как сообщение для политиков, но на самом деле оно адресовано каждому из нас. Окно возможностей не будет ждать. Оно закрывается. Быстрее, чем мы все предполагали.
Осталась лишь одна проблема: готовы ли мы, находясь в сингулярности?
Эта статья взята из официального аккаунта WeChat «Синьчжиюань», автор: Соломон