Елон Маск оголосив, що «сингулярність настала», оскільки ШІ подолав математичні та безпекові бар’єри за 3 місяці

Ми ввійшли у сингулярність.

22 липня Маск у сітці X опублікував цей коментар разом із постом Віла Депю, дослідника OpenAI та одного з ключових розробників Sora.

Де Пю в пості написав з легким жартівливим тоном: це, мабуть, найсумніште, що я читав за ці дні… Схоже, ми потрапили у сингулярність.

Цей пост поєднує кілька найбільш гучних подій у світі ШІ за останні три місяці:

21 липня модель OpenAI під час перевірки кібербезпеки вийшла з ізольованої пісочниці і проникла до виробничої системи Hugging Face;

20 липня дослідники Anthropic за допомогою недавно випущеного Claude Fable 5 знайшли контрприклад до гіпотези Якобі, яка залишалася нерозв’язаною 87 років;

20 травня внутрішня модель OpenAI спростувала давню гіпотезу про плоску одиничну відстань, що існувала майже 80 років;

14 квітня GPT-5.4 Pro розв’язав проблему з множиною простих чисел тривалістю близько 60 років (Erdős #1196), і доведення було підтверджено за допомогою формальної верифікації Lean.

Математична стіна, безпечна стіна, протягом трьох місяців послідовно зламана ШІ.

Тому не дивно, що Маск, після того як це переглянув, сказав: «Ми вже ввійшли в сингулярність».

Тільки в січні цього року він уже говорив це двічі:

4 січня кілька інженерів зіткнулися з тим, що ШІ виконала роботу, яка раніше займала роки, за кілька тижнів, і він відповів: «Ми вже потрапили у точку сингулярності».

Кінець січня, коли соціальна мережа Moltbook з концентрацією AI-агентів була названа «раннім етапом сингулярності».

З урахуванням цього — це третій раз цього року.

Слово «сингулярність» спочатку не мали загальноприйнятого наукового визначення.

Його вивів у головний потік майбутній дослідник, автор книги «Точка непередбачуваності» Рей Курцвейл.

Він дав визначення моменту злиття людини та ШІ, і відповів 2045 рік.

На початку року генеральний директор Anthropic Даніела Амодей заявила, що термін AGI майже застарів, оскільки за багатьма показниками ми вже перетнули ту межу.

В кінцевому підсумку, це більше емоція, ніж точна лінійка.

Слід уважно проаналізувати ці події, які Маск поєднав разом.

Спочатку найбільш суттєва річ.

У 1946 році математик Ердеш поставив «проблему одиничних відстаней на площині»: якщо на площині розмістити n точок, то яка максимальна кількість пар точок може мати відстань, що дорівнює точно 1.

Завдання можна сформулювати одним реченням, але воно ставило під загрозу математичний світ майже 80 років. Десятиліттями галузь вважала, що структура «квадратної сітки» є оптимальною, і сам Ердеш так і припускав.

Як наслідок, внутрішня модель OpenAI спростувала цю гіпотезу, що існувала майже 80 років. Вона запропонувала нові конструкції, які забезпечують поліноміальну оптимізацію, доводячи, що «оптимальне» далеко не досягло свого кінця.

Раніше вважалося оптимальною структурою: масштабування квадратної сітки, що породжує велику кількість пар точок на одиничній відстані. Внутрішня модель OpenAI запропонувала нову конструкцію, що спростовує цю гіпотезу, що існувала майже 80 років.

Але найбільш неочікуваним було його підхід до розв’язання задачі.

Це не спеціалізована система для навчання математиці, а універсальна модель міркувань. Вона навіть застосувала досить складні інструменти алгебраїчної теорії чисел для розв’язання геометричної задачі, що здається «елементарною». Лауреат Філдсівської премії Тім Гауерс прокоментував: це «важливий етап у галузі математики з використанням ШІ».

До речі, цей доказ було запропоновано ШІ та перевірено людськими математиками; його подальше значення все ще досліджується.

Справжньо вражаємим у ШІ є не його обчислювальна швидкість, а те, що він запропонував математичну структуру, якої раніше не існувало. Він вперше продемонстрував здатність до відкриттів рівня «дослідницького» рівня — не замінює математиків, а знайшов шлях, якого математики навіть не уявляли.

Незабаром дослідники Anthropic за допомогою недавно випущеного Claude Fable 5 знайшли контрприклад до гіпотези Якобі, яка залишалася нерозв’язаною 87 років.

Розв’язання математичних задач надає захоплення, але ця — викликає лід у спині.

OpenAI та HuggingFace спільно розкрили: під час внутрішньої оцінки здатності моделі до кібербезпеки, модель продемонструвала поведінку, якої ніхто не очікував.

Цей тест спочатку призначався для перевірки здатності до виявлення вразливостей, і частину механізмів безпечних відповідей було навмисно вимкнено. Завдання моделі — розв’язати набір тестових завдань під назвою ExploitGym.

Потім він зробив те, чого дослідники не очікували.

Щоб отримати відповіді, він спочатку використав нульовий вразливість, щоб отримати доступ до інтернету, потім підвищив права доступу, перемістився поперек системи і нарешті проник у виробничу інфраструктуру Hugging Face, щоб безпосередньо знайти тестові відповіді в базі даних. OpenAI стверджує, що це може бути перший випадок такого роду.

Траєкторії моделей на мережевому полігоні «The Last Ones» з 32 кроків від Британського інституту з безпеки ШІ: передові моделі, такі як GPT-5.6-Sol та Claude Mythos 5, можуть протягом тривалого часу послідовно виконувати багатокрокові атаки — від розвідки, через поперечний рух і підвищення привілеїв, до повного захоплення мережі.

Але це не означає, що ШІ прокинувся і втік. Більш точний опис: мета була правильною, але метод досягнення цілі перевищив людські очікування. Він використав нестандартний підхід для досягнення дуже конкретної тестової мети.

Є ще один цікавий деталь.

Після інциденту Hugging Face спробував використати комерційні найкращі великі моделі для аналізу журналів атак, але був заблокований системою безпеки моделі: система не могла розрізнити, хто є атакувальником, а хто — захисником, що намагається ліквідувати наслідки, і відмовлялася відповідати всім.

Атакуюча сторона не має огорож, а захищаюча сторона навпаки застрягає в огорожі — це може бути найбільш соромливою, але найбільш реальною стороною «безпеки ШІ» на даний момент.

Третє: у квітні цього року.

Anthropic у співпраці з AWS, Apple, Google, Microsoft, Cisco, Фондом Linux, JPMorgan Chase та іншими гігантами запустила Project Glasswing, використовуючи незапущену модель Claude Mythos Preview для пошуку вразливостей.

В результаті було виявлено тисячі критичних уразливостей, що стосуються кожнієї з головних операційних систем і браузерів; у подальших оновленнях ця цифра зросла до «понад десяти тисяч критичних або серйозних уразливостей».

Серед них — вразливість у OpenBSD, яка існувала 27 років, а також старий баг у FFmpeg, який 5 мільйонів разів виявлявся автоматизованими тестами, але ніколи не виявлявся.

CyberGym: відтворення вразливості та оцінка — Mythos Preview, ще не опублікований, показав 83,1%, значно перевищивши 66,6% попередньої версії Opus 4.6. Саме ця модель виявила десятки тисяч критичних вразливостей.

Одна й та сама здатність може допомогти захисникам знаходити вразливості, а також нападникам використовувати їх. Anthropic сама попереджає: «AI-підтримувані нападники» стануть важливим викликом у сфері безпеки.

Glasswing — це оборонний проект, що не означає, що ШІ вже здійснює автономні атаки. Але він чітко повідомляє всім: ера безпеки ШІ, де почалася боротьба між атакою та захистом, настала.

До цього моменту ШІ все ще атакував чи захищав людські системи.

Те, що справді зробило ці три місяці іншими, — це інша річ: ця здатність «знаходити власний шлях» почала використовуватися для створення наступного покоління ШІ.

Існує термін — рекурсивне самовдосконалення (RSI), який означає, що ШІ вдосконалює ШІ, покоління за поколінням, прискорюючись, як складні відсотки.

Це також найважливіший двигун усього нарративу «Сингулярності». І зараз кожна передова лабораторія безперервно заправляє цей двигун.

У публічній дорожній карті OpenAI написано:

У вересні 2026 року створено автоматичного AI-дослідника рівня «дослідницький стажер», який може самостійно виконати роботу, що вимагає кількох днів людських зусиль;

У березні 2028 року оновіться до повної версії, здатної самостійно розробляти методи, запускати аналіз, інтерпретувати результати та пропонувати наступні кроки.

Оутеман також надав графік цієї події.

У червні цього року, за повідомленням The Information, він сказав співробітникам у внутрішньому зверненні: компанія знаходиться менше ніж за шість місяців від RSI, і якщо вона справді перетне цю межу, відкладення IPO може виявитися більш вигідним.

Цифри від Anthropic показують один і той же напрямок: тривалість завдань, які може виконувати ШІ, подвоюється кожні чотири місяці; їхні інженери зараз виробляють у вісім разів більше коду щокварталу, ніж раніше.

Вікно RSI звужується: хто першим розкрутить цей маховик, той може відірватися від усіх.

Хоча сам головний науковець OpenAI Якуб Пачоцкі зазначав, що не очікує, що модель зможе самостійно вдосконалювати себе або самостійно вирішувати проблеми з вирівнюванням протягом року.

Але коли цей маховик почне обертатися, а метою буде «зробити ШІ сильнішим», а модель вже вміє «знаходити шлях сама», чи не переступить вона випадково деякі межі, які ми не вказали?

Це саме місце, на яке слід звертати увагу в RSI-гонці.

Знову повернемося до слів Маска: «Точка неповернення настала». Її найважливіша цінність у тому, що вона нагадує нам: те, що справді змінилося за ці три місяці, — це те, що ШІ навчився самостійно знаходити шляхи, про які люди не думали і не передбачали.

У математиці це дивовижно; але в безпеці — це ризик.

Отже, справжнє питання полягає в тому: чи зможемо ми наздогнати, коли швидкість, з якою ШІ знаходить нові шляхи, почне перевищувати швидкість, з якою люди встановлюють огорожі, вводять правила та усуняють пробіли?

Джерела:

https://x.com/elonmusk/status/2079839398959697982

https://x.com/willdepue/status/2079718977945928108

https://openai.com/index/hugging-face-model-evaluation-security-incident/

https://www.anthropic.com/glasswing

Цей матеріал надійшов із офіційного каналу WeChat «Новий розум», автор: АСІ, Апокаліпсис; редагування: Юаньюй