Автор: Байрон Гиллиам (The Breakdown)
Перевод: Shenchao TechFlow
Обзор Shenchao: Когда AI-агенты начнут доминировать на рынке, человеческие инвесторы могут больше не понимать логику, стоящую за ценовыми сигналами. Экономист из Принстона Бруннермайер выдвинул утверждение, которое кажется регрессивным, но может спасти ситуацию: сохранить отдельную торговую зону, доступную только для людей, в качестве аварийного резерва всей финансовой системы. Это напоминание для каждого, кто зависит от рыночного ценообразования, о доверии и уязвимости.
Ежегодно я и несколько коллег отправляемся из инвестиционного банка, где я работал в тот год, от сияющих офисных башен Canary Wharf к неизвестным диким местам на юге Лондона.
Прибыв туда, мы надеялись только, что нас не ограбят по дороге, и что мы благополучно доберемся до скромного здания, дверь которого открывалась нашей служебной картой. Мы поднялись на второй этаж на лифте без маркировки, потому что нам сказали, что именно там.
Когда распахнулась скрипучая дверь, перед вами открылся торговый зал, почти точная копия торгового зала в Канарском порту.
Но здесь темно и без окон. Компьютер, по крайней мере, десятилетней давности: громоздкий монитор с бежевым корпусом, с толстым блоком сзади, на котором еще остались слоты для CD-ROM и флоппи-дисковода.
Мы проверяем, может ли современная торговая система работать на этом старом оборудовании.
Интересно, что они действительно работают. Мы можем выполнять сделки и фиксировать позиции, как в Канарском порту. Скорость низкая, потому что такие громоздкие мониторы могут запускать только одну программу за раз. Но они работают.
Все в порядке.
Это наш «аварийный резервный торговый зал», который круглый год обслуживается отделом ИТ. Сюда также часто заходят уборщики, но, кроме как смахивать пыль, им, вероятно, нечего делать, ведь это место никогда не использовалось.
Банк, безусловно, потратил на это немало денег. Но это важная страховка — не только для банка.
В случае чрезвычайной ситуации (землетрясение, кибератака, вторжение Годзиллы) у каждого инвестиционного банка в Лондоне есть резервный торговый зал. Независимо от того, что произойдет, рынок должен продолжать функционировать.
Сегодняшнему рынку, возможно, также требуется подобная страховка, только гораздо большего масштаба.
Экономист Маркус К. Бреннера-Мейер считает, что для реагирования на чрезвычайную ситуацию, связанную с ИИ, нам следует подготовить для всей финансовой системы аварийный вариант: рынок, который функционирует не хуже, чем десять лет назад.
Торгуйте, как в 1999 году
Билл Гейтс считает, что политики должны оставить часть экономической деятельности за людьми: «Я верю, что с развитием ИИ и роботов,» — написал он недавно, — «мы специально оставим некоторые вещи для выполнения людьми.»
Он имеет в виду те вещи, которые связаны с людьми, такие как уход за пожилыми, воспитание детей и преподавание. Возможно, также медицина (но только в случае передачи плохих новостей).
Но Бреннер-Майер считает, что трейдеры также должны быть включены в этот список.
В книге «Искусственный интеллект и новый мир финансов» этот экономист из Принстона предупреждает, что финансовые рынки станут все более непонятными для людей, поскольку принятие торговых решений все чаще осуществляется ИИ.
Но ИИ все еще может понять нас. «ИИ-агенты могут изучать, как люди думают и реагируют», — написал он, — «а люди могут не понимать или надежно предсказывать, как эти агенты будут действовать».
Это «асимметричное понимание» станет проблемой.
На самом базовом уровне Бренер предупреждает, что асимметрия понимания между людьми и ИИ может ослабить гейековскую функцию рынка: «Ценовые сигналы — это механизм, направляющий работу децентрализованной экономики», — объясняет он. Но если мы не понимаем, что движет ценами, мы не знаем, какие сигналы они передают.
Неправильная интерпретация сигналов может привести экономику к краху.
Доверие тоже может вызвать проблемы.
Когда AI-агенты свободно торгуют на рынке, сговор, манипуляции и рискованные сделки станут для людей необнаружимыми. «При асимметричном понимании», — пишет Бреннермайер, — «цели AI-агентов нельзя полностью описать с помощью человеческих категорий и невозможно проверить извне, поэтому несоответствие целей станет необнаружимым».
Если мы не можем заметить смещение целей на рынке, мы просто предполагаем, что они смещены. Если мы предполагаем, что они смещены, мы не осмеливаемся инвестировать. Если мы не инвестируем, мы ничего не можем построить.
Этот вопрос может резко обостриться во время рыночного краха.
Если человеческие инвесторы не могут понять причину обвала, они не хотят смягчить падение, принимая противоположные ордера. Они могут просто продавать вместе с остальными. «Асимметричная информация препятствует участию некоторых трейдеров», — предупреждает Бреннермайер, — «и может привести к полному краху рынка».
Это довольно пугающе.
К счастью, у Бреннера также есть решение: регуляторы должны создать сегмент рынка, разрешающий торговать только людям.
Я могу только надеяться, что это место будет выглядеть как торговый зал, где я раньше работал: трейдеры громко называют цены, продавцы кричат заказы, телефоны не перестают звонить, клавиатуры стучат, ладони потеют.
Это действительно трогательная сцена.
Однако, возможно, не стоит слишком радоваться, поскольку обычный, контролируемый ИИ рынок по-прежнему будет обрабатывать большую часть объема торгов.
Бреннермайер также признает это: «В обычные времена на этом медленном рынке может не быть слишком много активности».
Но, как и у моего предыдущего работодателя, который тратил большие деньги на поддержку аварийного торгового зала, это само по себе является ценной страховкой.
«НеАИ-сектор выступает в качестве резервного варианта», — сказал Бреннермайер.
Затем, если рынок рухнет без явных причин, регуляторы могут «временно открыть границу между двумя секторами, чтобы ключевые операции могли быть перемещены в тот сектор, который все еще функционирует».
Это человеческий блок. Заказы обрабатываются людьми. Используются компьютеры из 90-х годов прошлого века.
Время обработки ордеров не будет измеряться в наносекундах, как сейчас. Но по крайней мере мы сможем понять, что происходит.
«Его основная логика заключается в жертве эффективностью в обычные времена, чтобы предотвратить цепную реакцию в период кризиса», — объяснил Бреннермайер.
Он считает, что нам следует начать такую торговлю как можно скорее, чтобы не забыть, как это делать: «Рынок, управляемый людьми, поддерживает жизнеспособность торговых навыков; без него этот резервный вариант будет постепенно ослабевать по мере усиления зависимости от ИИ».
Как GPS заставил нас забыть, как читать карты, AI-агенты могут заставить нас забыть, как совершать сделки.
(Я считаю, что на новом рынке也应该 быть дресс-код, чтобы мы не забыли, как завязывать галстук или чистить обувь.)
Хотя «только для человеческих трейдеров» звучит фантазийно, это не без прецедентов.
Та же логика объясняет, почему правительства различных стран постоянно поощряют использование наличных денег. Несмотря на то, что наличные стали менее удобными, они предоставляют важный резервный вариант в случае сбоя интернет-платежных систем, на которые мы сильно полагаемся, из-за кибератак.
Бреннермайер заключил: «Наша текущая финансовая система не была создана для мира, в котором существуют ИИ-агенты с асимметричными способностями к пониманию».
В том мире (который сейчас кажется неизбежным), рынок, где люди будут торговать так, как в 1999 году, станет ценным резервным вариантом.
Я помню, как это делать.
(Но тоже не надолго.)
Байрон Гиллиам