Точка невозврата ИИ уже близка!
Недавно известный инвестор Чамат Палихапития, известный как «Баффет из Силиконовой долины», предсказал на X финальную дорожную карту «ИИ-сингулярности».
1. Человечество создало AGI.
2. AGI стал очень хорош в проведении исследований в области ИИ.
3. Он создал более умный ИИ.
4. Более умный ИИ спроектировал еще более умного ИИ.
5. Этот цикл постоянно повторяется и становится все быстрее.
Затем он выдвинул потрясающий вывод —
Посмотрев на результаты и возможности, опубликованные крупнейшими лабораториями ИИ за последние несколько недель, я могу сказать, что мы уже находимся в этом цикле.
В течение следующих 18 месяцев RSI значительно улучшит возможности ИИ.
В конечном итоге предельная стоимость всех моделей ИИ стремится к нулю!
Не только инвесторы, но и весь Силиконовую долину сегодня безгранично верят в RSI.
На недавнем форуме в UC Беркли главный стратегический офицер Google DeepMind Джасджит Сехон высказал еще более значимое суждение:
Безprecedentные безумные инвестиции со стороны всего технологического гиганта в сущности являются ставкой на эти три буквы — RSI!
Эта «крупнейшая в истории человеческой цивилизации научная ставка» по масштабу превосходит программу «Аполлон», Манхэттенский проект и даже весь интернет.
Почему гиганты готовы рисковать разрывом денежных потоков, чтобы продолжить эту игру до конца?
Забудьте про AGI, RSI — это истинный тотем Силиконовой долины
Современный ИИ может самостоятельно исправлять ошибки, работать несколько часов без присмотра и даже генерировать и оптимизировать низкоуровневый код, такой как ядра и компоненты компиляторов.
Но по мнению Джасджита Сехона, это лишь предвестник RSI.
Он сказал: не считайте странным, что AI проектирует AI — во время промышленной революции люди также использовали первые паровые машины для создания более мощных следующих поколений паровых машин.
А как выглядит настоящий RSI?
Опытный исследователь определяет это так: настоящий RSI означает, что ИИ-модель может полностью самостоятельно перепроектировать свою базовую архитектуру и даже создать с нуля совершенно новое поколение моделей, причем весь процесс происходит без участия человеческих ученых.
Как только этот порог будет преодолен, скорость эволюции ИИ выйдет из-под контроля человека.
Человечеству потребовались десятилетия, чтобы пройти эту итерацию, а ИИ может справиться с ней за несколько недель или даже дней.
At this point, the singularity cycle will truly arrive!
«AI-вакуум» в 200 миллиардов долларов — крупнейшая научная ставка в истории человеческой цивилизации
Поняв потенциал RSI, вы поймете, почему Силиконовая долина безумно тратит деньги.
В этом году только капитальные расходы Google на AI-центры обработки данных, чипы и инфраструктуру составили удивительные 195–205 миллиардов долларов США, и в следующем году они значительно возрастут!
Акционеры Уолл-стрит начинают беспокоиться, поскольку рост доходов от ПО для ИИ или облачных услуг временно не покрывает такие масштабы капитальных затрат.
Секон, бывший профессор статистики в Йельском университете, сразу же разоблачил эту опасность.
Мы столкнулись с потенциальным «AI-воздушным карманом» — деньги потрачены, но доходы не появились в ожидаемые сроки.
Центр обработки данных построен, чипы установлены, электричество подведено, но то, что действительно окупит эти вложения, всё ещё не появляется.
На самом деле, еще до Сехона Уолл-стрит уже использовала термин «воздушный карман» для описания такой ситуации: капитальные расходы опережают доходы, а инвесторы покупают воздушный замок.
Почему бежать слепо, если риск такой велик?
Ответ Сехона: это крупнейшая научная ставка в истории человеческой цивилизации.
Он сказал, что текущие глобальные вложения в ИИ уже делают Манхэттенский проект и программу «Аполлон» бледными, не говоря уже о разработке интернета в те времена.
Эта азартная логика проста: хотя текущая технология еще не является настоящим RSI, «продавать ее в шортах, очевидно, неразумно».
Потому что, как только RSI действительно будет реализован, предельные затраты всех ИИ-моделей стремятся к нулю, как указано выше.
К тому времени компания, первой освоившая RSI, будет обладать почти божественной производительностью, прямо снижая уровень конкуренции и монополизируя глобальные вычислительные и интеллектуальные ресурсы.
Это уже не вопрос прибыли или убытков компании, а生死局, в которой побеждает только один, а все остальные выбывают.
За этот билет в новую эпоху 200 миллиардов долларов — просто мелочь.
Сегодня этот комплекс центров обработки данных, TPU и электроэнергии, если бы его можно было использовать только за счет ручного обучения моделей человеческими инженерами поколение за поколением, представлял бы собой огромные постоянные активы, которые постоянно обесцениваются.
Но как только ИИ начнет ускорять разработку ИИ, это напрямую изменит логику реестра.
Вложенные вычислительные мощности больше не тратятся линейно — они генерируют сложный процент: эта версия ИИ помогает быстрее создать следующую, а следующая — еще следующую.
Вот почему Сехон говорит, что RSI — это «ключевая часть инвестиционной логики». RSI — это то, что определяет, вернётся ли эти деньги.
RSI-процесс «Трех великих»
Google, Anthropic, OpenAI каждая предоставила по одному образцу.
Сначала посмотрите в Google.
Система AlphaEvolve от DeepMind специально использует ИИ для оптимизации алгоритмов.
Он ускорил один из ключевых ядер обучения Gemini на 23%, сократив общее время обучения на 1%; изменённая им схема была напрямую включена в чип следующего поколения TPU.
Сегодня это обычный инструмент в инфраструктуре Google: такие задачи, как стратегии кэширования, он выполняет за два дня, что раньше занимало у людей несколько месяцев.
ИИ помогает создавать чипы и более быстрые ИИ — это уже стало реальностью.
Теперь посмотрим на Anthropic.
В апреле этого года они провели более смелый эксперимент: девять агентов Claude были помещены в ограниченную задачу по исследованию согласованности, где они самостоятельно формулировали гипотезы, проводили эксперименты и обменивались результатами.
Двум человеческим исследователям потребовалась неделя, чтобы восстановить только 23% разрыва в производительности; девять агентов совокупно потратили 800 часов и примерно 18 000 долларов США, восстановив 97%.
Похоже, ИИ теперь может проводить исследования самостоятельно?
Не спешите — в том же отчете скрыт еще один более важный контраргумент: когда исследователи применили этот «наиболее эффективный» метод в реальной производственной среде обучения Claude, он не привел ни к какому статистически значимому улучшению.
Это означает, что между «ускорением в ограниченных задачах» и «настоящей реконструкцией возможностей ИИ» существует пропасть.
Последним является OpenAI.
В июле OpenAI сообщила: их GPT-5.6 Sol самостоятельно переписал GPU-ядра в производственной среде с помощью Codex, снизив общую стоимость вывода на 20%; он также провел сотни архитектурных экспериментов для своей модели предсказательного декодирования, повысив эффективность генерации токенов более чем на 15%.
OpenAI впервые в своих материалах представила специальный индекс «RSI Index» для оценки способности к самосовершенствованию.
Замкнутый цикл скоро начнёт вращаться?
OpenAI в своей системной карточке говорит сдержанно: GPT-5.6 Sol еще не достигает установленного компанией порога «High» для самосовершенствования; он может решать часть реальных исследовательских задач, но еще не способен надежно разрабатывать и выполнять полные пост-обучающие схемы.
Три примера рядом позволяют ясно увидеть текущую картину RSI:
AI, помогающий в разработке AI, действительно происходит; но настоящий RSI — когда AI самостоятельно перестраивает свою полную архитектуру, обучает и развертывает более сильного преемника — еще далеко от нас.
Темнота наступает, когда сверхмощный ИИ становится хакером и биологическим оружием
Однако за сингулярностью также скрываются тени.
На этой конференции профессор компьютерных наук из Беркли Даун Сонг, только что присоединившаяся к отделу «суперинтеллекта» Meta, вместе с Сехоном сместила фокус обсуждения на вопрос, который все избегают: экстремальные риски ИИ.
Их общее мнение: самая большая опасность — не внезапное оживление модели, а дисбаланс между скоростью атаки и защиты.
Когда ИИ обретет способность к RSI, он сможет исцелять рак и помогать человечеству исследовать вселенную, но одновременно он может стать окончательным оружием для уничтожения человечества.
Сначала — «понижение размерности» с точки зрения кибербезопасности.
Dawn Song предупреждает, что в краткосрочной перспективе развитие ИИ будет «более выгодно для нападающих» — это чрезвычайно несимметричное поле боя: хакеру достаточно найти одну уязвимость, чтобы добиться успеха, тогда как обороняющейся стороне необходимо защищаться от всех возможных атак.
Когда злонамеренные злоумышленники используют умные ИИ-агенты для отравления открытых кодовых репозиториев, сканирования и эксплуатации уязвимостей, оставленных человеческими программистами, предстоящие дни будут очень тяжелыми:
Подумайте, насколько хрупкой является наша существующая система защиты: американская энергетическая сеть, глобальные медицинские системы, финансовые сети — перед супер ИИ они могут быть такими же уязвимыми, как бумажные.
Но кибербезопасность всё ещё «детская игра».
Секхон больше всего беспокоит биология; на встрече он описал чрезвычайно пугающий сценарий: мы уже почти достигли мира, в котором любой человек, общаясь с моделью исключительно на естественном языке, сможет спроектировать смертельный вирус или белок.
Он предложил, что в будущем общество должно осуществлять чрезвычайно строгий лицензирование, мониторинг и отслеживание всех «биологически релевантных материалов», как сейчас отслеживают удобрения, используемые для производства взрывчатых веществ.
Сейчас Google пытается применить свою технологию «водяных знаков» (SynthID), используемую для распознавания контента, созданного ИИ, в области биологии.
Это означает, что в будущем, если компании будут синтезировать ДНК-последовательности для фармацевтических компаний, система сможет сканировать эти последовательности, чтобы обнаружить скрытые «вредоносные коды», созданные ИИ, которые несут смертельную угрозу.
В конце концов, быстрее построят оборонительные линии или быстрее эволюционирует ИИ?
Обратный отсчет начался, сколько у нас осталось времени?
Это звучит как научная фантастика, но мозги из Силиконовой долины уже дали точный обратный отсчёт.
Чамат говорит: следующие 18 месяцев мир погрузится в безумие.
Sekhon считает: истинный RSI «скорее всего появится в ближайшие несколько лет».
На той же панели вице-президент по исследованиям DeepMind Ориол Виньялс и сооснователь OpenAI Войчех Заремба назвали даже конкретные годы: 2027 или 2028.
В истории человечества ни одна технология, способная кардинально изменить ход цивилизации, не приближалась к реализации так близко.
На этот раз на кону стоит пари со временем.
Инвестиции в инфраструктуру идут темпами роста вычислительной мощности: чипы, электричество и центры обработки данных будут готовы в течение нескольких лет.
Но могут ли соответствующий доход и RSI успеть сесть на этот поезд?
Во время полета в пустоте мы случайно наткнемся на этот «воздушный вихрь»?
Но по крайней мере здесь, у Сехона, направление гигантской ставки Google в 200 миллиардов долларов уже ясно: RSI придет.
Паровой двигатель создал лучший паровой двигатель, и человечество вступило в промышленную революцию.
Сейчас ИИ готовит создание более совершенного ИИ, выводя наше поколение на неизвестную границу.
Готовы вы или нет, гудящие центры обработки данных не остановятся, самоэволюция ИИ не остановится.
Обратный отсчет начался. Готовы ли вы встретить сингулярность?
Справочные материалы:
https://www.theinformation.com/newsletters/ai-agenda/google-deepmind-exec-says-unprecedented-capex-actually-bet-rsi?rc=epv9gi
https://x.com/kimmonismus/status/2084257726599716882
Эта статья взята из официального аккаунта WeChat «Новости ИИ», автор: АСИ, Откровение; редактор: Юань Юй Аэнеас