Следующий финансовый кризис может быть не вызван человеком, а вызван ИИ?
Недавно выпущенная новая модель Anthropic, лидера в области ИИ — Mythos, вызвала панику на Уолл-стрит.
01
В тот же день, когда была выпущена модель Mythos, произошла крайне редкая ситуация:
Госсекретарь США Бессент и председатель ФРС Бауэлл отложили все обычные повестки дня и срочно собрали генеральных директоров всех крупнейших банков Уолл-стрит для закрытых консультаций в Министерстве финансов.
Государственный секретарь по финансам США Скотт Бэсент (слева) и председатель ФРС Джером Пауэлл (справа)
Участники включают генерального директора Citigroup Джейн Фрейзер, генерального директора Goldman Sachs Дэвида Соломона, генерального директора Morgan Stanley Теда Пика и других ключевых фигур американской финансовой системы.
Следует отметить, что последний раз ФРС и Министерство финансов США применяли подобные чрезвычайные распоряжения, вероятно, было во время спасательных мер во время кризиса ипотечных кредитов 2008 года.
На этот раз их цель — не «собрать деньги для спасения рынка», а заставить банки осознать, что новейшая модель искусственного интеллекта Mythos, хотя и была только что выпущена, может вызвать системный риск, превышающий риск, вызванный кризисом ипотечных кредитов того времени.
Личное присутствие Пауэлла передает внешнему миру чрезвычайно серьезный сигнал:
Это уже не обсуждение на техническом уровне, а вопрос высшего порядка, касающийся финансовой стабильности и даже национальной безопасности.
Но это не только односторонняя тревога США — рыночная обеспокоенность быстро распространилась через Атлантику. Почти одновременно Банк Англии и Финансовый поведенческий регулятор (FCA) срочно начали консультации с Национальным центром кибербезопасности (NCSC).
Центробанк Канады также отдельно пригласил канадские банки и финансовые учреждения для проведения самого высокого уровня уведомления о рисках.
Последовательные действия центральных банков США, Великобритании и Канады за 10 дней беспрецедентны в истории регулирования ИИ.
02
Насколько мощна Mythos?
Anthropic утверждает, что Mythos обладает невероятной способностью обнаруживать скрытые уязвимости в программном обеспечении, используемом мировыми банками, энергосетями и правительственными учреждениями.
Генеральный директор OpenAI Сам Олтман сравнил Mythos с «бросанием бомб и одновременной продажей убежищ стоимостью в 100 миллионов долларов».
Проще говоря, он может обнаруживать и использовать уязвимости во всех основных операционных системах и всех основных веб-браузерах, нанося разрушительные атаки на системы без человеческого вмешательства.
В ходе нескольких недель внутреннего тестирования Mythos самостоятельно обнаружил «тысячи» уязвимостей нулевого дня (Zero-Day). Он также выявил старую уязвимость, скрывавшуюся в системе OpenBSD, известной своей высокой безопасностью, в течение 27 лет.
В то же время он обнаружил уязвимость, существовавшую 16 лет, в другом инструменте для обработки видео — уязвимость, которую даже самые передовые автоматизированные тестовые инструменты, запущенные миллионы раз, не могли обнаружить, как слепые, ощупывающие слона.
Раньше ведущие человеческие хакерские команды находили максимум 100 таких критических уязвимостей в год. Выходные данные Mythos в 10–100 раз превышают показатели ведущих человеческих команд и сокращают время разработки эксплойтов с «недель» до «часов».
Как правило, «огневая стена» финансовых учреждений является самой надежно защищенной зоной в мире, с круговой защитой, обеспечиваемой ведущими мировыми экспертами в области безопасности.
Но Mythos демонстрирует асимметричную разрушительную силу, которая делает финансовые «ограждения» хрупкими.
Это порождает две смертельные проблемы:
Во-первых, может ли Mythos быть использован злоумышленниками для атак на финансовую систему? Будут ли наши деньги, хранящиеся на банковских счетах, безопасны в будущем?
Во-вторых, будут ли подобные модели в будущем «вооружены» некоторыми странами, например, для атак на учреждения и компании враждебных государств?
Пугающе, когда задумаешься.
Сейчас даже разработчики из Anthropic немного напуганы и самостоятельно объявили: Mythos не будет открыт для публики, а будет передан лишь нескольким организациям для тестирования.
03
Изменения эпохи происходят так быстро, что люди не успевают среагировать.
Исследователь Zhigu Trends Тан Шаоюй считает, что эволюция ИИ приводит к невообразимой дифференциации, которая представляет собой не только когнитивный разрыв, но и огромный разрыв в власти.
Пока обычные люди воспринимают DouBao и DeepSeek просто как чат-ботов, крупнейшие мировые команды ИИ уже используют свои модели, способные подорвать основы финансовой системы.
Недавний отчет Morgan Stanley указал, что ИИ имеет фундаментальное отличие от предыдущих технологических революций: скорость.
Человечеству потребовалось шестьдесят лет, чтобы пройти промышленную революцию, тридцать лет — чтобы освоить интернет, а ChatGPT достиг одного миллиарда пользователей всего за два месяца. Кривая распространения технологий стала настолько крутой, что задыхаешься.
Проблема в том, что между технологическим развитием и темпами принятия нормативных актов, а также формированием социальных и корпоративных механизмов защиты и обучения персонала пролегла исторически беспрецедентная пропасть.
Как признал директор Национального экономического совета Кевин Хассет в интервью:
Белый дом и даже правительство еще не готовы должным образом к такому взрывному развитию.
Генеральный директор Goldman Sachs Соломон описал эту угрозу как «высокую степень бдительности», поскольку текущая оборонительная линия изменилась с «постоянного укрепления межсетевого экрана» на «обязательное использование самых мощных ИИ для противодействия самым мощным ИИ».
Это означает, что разница в скорости между технологическим скачком и социальной адаптацией достигла исторического максимума. Трение будет беспрецедентно интенсивным.
Как сказал Маск: «В ближайшие 3–7 года обычным людям может быть очень трудно».
В ответ обычные люди вынуждены принять концепцию пожизненного обучения. Способность постоянно определять и формулировать сложные вопросы — это наибольшее конкурентное преимущество в эпоху ИИ.
В то же время ИИ может заменить ваши навыки, но не может заменить ваши активы. Стать еще важнее построить структуру дохода, не зависящую от «продажи времени».
Эта статья взята из официального аккаунта WeChat «ZhiGu Trend», автор: Bu Yu