Наступний фінансовий кризис може бути не спричинений людиною, а штучним інтелектом?
Останній великий вибух — нова модель Anthropic, лідера штучного інтелекту Mythos, викликала паніку на Уолл-стріт.
01
У день випуску моделі Mythos з’явилася надзвичайно рідкісна сцена:
Міністр фінансів США Бесент та голова ФРС Пауел відклали всі звичайні питання та негайно зібрали керівників усіх головних банків Волл-стріт для закритої зустрічі в Міністерстві фінансів.
Міністр фінансів США Скотт Бейсент (ліворуч) та голова ФРС Джером Пауелл (праворуч)
Учасниками були генеральні директори Citigroup Джейн Фрейзер, Goldman Sachs Девід Соломон, Morgan Stanley Тед Пік та інші ключові фігури американської фінансової системи.
Варто зазначити, що останній раз, коли ФРС і Міністерство фінансів застосували такий рівень термінового виклику, ймовірно, було під час надзвичайної допомоги під час кризи міжкредитних позик 2008 року.
А на цей раз їхня мета — не «збирати кошти для порятунку ринку», а забезпечити, щоб банки усвідомили: найновіша модель штучного інтелекту Mythos, хоча й була лише щойно запущена, може викликати системний ризик, що перевищує ризик, спричинений субпримним кризисом того часу.
Особиста присутність Пауелла передає зовнішньому світу надзвичайно серйозний сигнал:
Це вже не технічна дискусія, а найвищий питання, що стосується фінансової стабільності та навіть національної безпеки.
Але це не лише одностороння тривога США — ринкова напруженість швидко поширилася через Атлантику. Майже одночасно Банк Англії та Фінансовий поведінковий регулятор (FCA) швидко розпочали термінові консультації з Національним центром кібербезпеки (NCSC).
Центральний банк Канади також окремо викликав канадські банки та фінансові установи для надання найвищого рівня попередження про ризики.
Послідовні дії центральних банків США, Великобританії та Канади за 10 днів — безпрецедентні в історії регулювання ШІ.
02
Наскільки потужний Mythos?
Anthropic стверджує, що Mythos має неймовірну здатність виявляти приховані вразливості в програмному забезпеченні, яке використовують глобальні банки, електромережі та урядові установи.
Генеральний директор OpenAI Сам Оттман порівняв Mythos з «киданням бомб, одночасно продаючи укриття вартістю 100 мільйонів доларів».
Просто кажучи, він може виявляти та використовувати вразливості у всіх основних операційних системах та всіх основних веб-переглядачах, здійснюючи руйнівні атаки на системи без людського втручання.
Під час кількох тижнів внутрішнього тестування Mythos самостійно виявила «тисячі» нульових днів (Zero-Day) уразливостей. Вона також виявила стару уразливість, яка приховувалася в системі OpenBSD, відомій своєю високою безпекою, протягом 27 років.
Одночасно він виявив утримуваний протягом 16 років вразливість у іншому інструменті обробки відео — вразливість, яку навіть найкращі автоматизовані тестові інструменти, навіть при запуску мільйони разів, не могли виявити, як сліпці, що дотикаються до слона.
Раніше найкращі команди людських хакерів знаходили щороку максимум 100 таких критичних вразливостей. Вихід Mythos у 10–100 разів перевищує продуктивність найкращої людської команди, а також скорочує час розробки експлойтів з «тижнів» до «годин».
Зазвичай «вогняна стіна» фінансових установ є найміцнішим захищеним районом у світі, зі збором світових лідерів у сфері безпеки.
Але Міфос демонструє асиметричну руйнівну силу, яка робить фінансові «огорожі» непереборними.
Це викликає дві смертельні питання:
По-перше, чи може Mythos бути використаний злочинцями для атак на фінансову систему? Чи будуть безпечні наші гроші на банківських рахунках у майбутньому?
Друге, чи не будуть подібні моделі в майбутньому «збройовані» деякими країнами, наприклад, для атак на інституції та підприємства ворожих країн?
Наприкінці дуже жахливо.
Навіть розробники з Anthropic трохи злякалися і самі оголосили: Mythos не буде доступний для загальної публіки, а лише передано декількома організаціями для тестування.
03
Зміни часів відбуваються так швидко, що важко встигнути їх сприйняти.
Дослідник Zhigu Trend Тан Шаоюй вважає, що еволюція ШІ формує неймовірну диференціацію, яка є не лише розривом у пізнанні, а й величезною нерівністю у владі.
Коли звичайні люди ще вважають DouBao та DeepSeek просто чат-ботами, найкращі світові команди з штучного інтелекту вже володіють моделями, здатними підірвати основи фінансової системи.
Останній звіт Morgan Stanley зазначив, що AI має фундаментальну відмінність від попередніх технологічних революцій: швидкість.
Людство пройшло промислову революцію за шістдесят років, інтернет — за тридцять, а ChatGPT досяг одного мільйона користувачів лише за два місяці. Крива поширення технологій стає дуже стрімкою.
Проблема полягає в тому, що між темпами технічної ітерації та виходом регуляторних актів, соціальними та корпоративними механізмами захисту, навчанням персоналу, відкрився історично безпрецедентний розрив.
Як визнав керівник Національної економічної ради Кевін Хасет у інтерв’ю:
Білий дім навіть на рівні уряду ще не підготувався до достатньої відповіді на такий вибуховий ітераційний розвиток.
Генеральний директор Goldman Sachs Соломон ще більше описав цю загрозу як «високу тривогу», оскільки поточна оборонна лінія змінилася з «постійного посилення брандмауера» на «обов’язкове використання найпотужнішого ШІ для протистояння найпотужнішому ШІ».
Це означає, що розрив між швидкістю технічного стрімкого розвитку та соціальною адаптацією був збільшений до історичного максимуму. Тертя буде безпрецедентно сильним.
Як сказав Маск: «У наступні 3–7 років звичайним людям може бути дуже важко».
Як відповідь звичайні люди повинні прийняти концепцію навчання протягом усього життя. Здатність постійно визначати та ставити складні питання — це найбільший захист у епоху ШІ.
Тим часом, ШІ може замінити ваші навички, але не може замінити ваші активи. Ставить ще важливішим створення структури доходів, яка не залежить від «продажу часу».
Цей матеріал надійшов із微信-каналу «Zhigu Trends», автор: Buyu