Автор: Байрон Гілліам (The Breakdown)
Переклад: Shenchao TechFlow
Огляд Shenchao: Коли AI-агенти почнуть домінувати на ринкових угоди, людські інвестори можуть вже ніколи не зрозуміти логіку, що стоїть за ціновими сигналами. Економіст з Прінстонського університету Бруннермайєр висунув твердження, яке здається регресивним, але може врятувати: зберегти окрему область угод, доступну лише для людей, як аварійний резерв для всієї фінансової системи. Це — нагадування для кожного, хто залежить від ринкового ціноутворення, про довіру та вразливість.
Щороку я з кількома колегами вирушаємо в подорож від інвестиційного банку, де я тоді працював, від блискучих офісних хмарочосів Canary Wharf до невідомих диких територій на півдні Лондона.
Дійшовши туди, ми просто надіялися, що нас не ограблять по дорозі, і що ми зможемо безперешкодно дістатися до невиразної будівлі, двері якої відкривалися нашими службовими картками. Ми сіли на ліфт без будь-яких позначок до другого поверху, бо нам сказали, що саме там.
Коли відкрилася скрипуча двері, перед ними відкрився торгівельний зал, майже точна копія торгівельного залу в Canary Wharf.
Але тут темно і без вікон. Комп’ютер принаймні десятирічної давності: важкий міліярдний монітор з товстим корпусом ззаду, на системному блоку ще залишилися слоти для CD-ROM і floppy-дисководів.
Ми йдемо перевірити, чи може сучасна торгова система працювати на цьому старому обладнанні.
Дивовижно, але вони справді працювали. Ми могли виконувати угоди та фіксувати позиції, як у Canary Wharf. Швидкість була повільною, бо такі квадратні монітори могли запускати лише одну програму за раз. Але вони працювали.
Все нормально.
Це наша «аварійна резервна торгова зала», яку весь рік підтримує відділ ІТ. До неї також часто заходять прибиральники, але, крім збирання пилу, їм, мабуть, нічого іншого робити не потрібно, бо це місце ніколи не використовувалося.
Банк, безумовно, витратив на це багато грошей. Але це важлива страховка — не лише для банку.
У разі надзвичайної ситуації (землетрус, кібератака, вторгнення Годзілли) кожний інвестиційний банк у Лондоні має резервний торгівельний зал. Будь-що відбувалося б, ринок має продовжувати функціонувати.
Сьогодні ринок, можливо, також потребує подібного страхування, лише значно більшого масштабу.
Економіст Маркус К. Бреннермайер вважає, що для реагування на надзвичайну ситуацію з ШІ ми повинні підготувати аварійний варіант для всієї фінансової системи: ринок, який працює принаймні так само добре, як десять років тому.
Торгуйте, як у 1999 році
Білл Ґейтс вважає, що політикам слід залишити частину економічної діяльності людям: «Я вірю, що з розвитком ШІ та роботів,» — написав він недавно, — «ми будемо спеціально залишати певні речі для виконання людьми.»
Він має на увазі речі, спрямовані на людину, такі як догляд за пожилими людьми, виховання дітей та навчання. Можливо, також медична допомога (але лише щодо передачі поганих новин).
Але Бреннер-Майер вважає, що трейдери також повинні бути включені до цього списку.
У книзі «Штучний інтелект і новий світ фінансів» цей економіст з Прінстона попереджає, що фінансові ринки стануть все більш незрозумілими для людей, оскільки рішення щодо торгівлі все частіше приймаються ІІ.
Але ШІ все ще може нас розуміти. «ШІ-агенти можуть вивчати, як люди думають і реагують», — писав він, — «а люди можуть не розуміти або надійно передбачати, як ці агенти будуть діяти».
Ця «асиметрична розуміння» стане проблемою.
На найпростішому рівні Бреннермейер попереджає, що асиметрія розуміння між людьми та ШІ може підірвати гейєківську функцію ринку: «Цінові сигнали — це механізм, що керує роботою децентралізованої економіки», — пояснює він. Але якщо ми не розуміємо, що визначає ціни, ми не знаємо, які сигнали вони передають.
Помилкова сигналізація: ми можемо втягнути економіку в прірву.
Довіра також може виникнути проблеми.
Коли AI-агенти вільно торгують на ринку, сговор, маніпулювання та відхилення від норми стануть непомітними для людей. «При асиметричному розумінні», — пише Бреннермайер, — «цілі AI-агентів не можна повністю описати за допомогою людських категорій і не можна перевірити ззовні, тому збій цілей стане непомітним».
Якщо ми не зможемо виявити збій цілей на ринку, ми просто припустимо, що вони збиті. Якщо ми припустимо, що вони збиті, ми не відважимося інвестувати. Якщо ми не інвестуємо, ми нічого не зможемо побудувати.
Це питання може вибухнути під час ринкового краху.
Якщо людські інвестори не можуть зрозуміти причини краху, вони не бажають відчувати падіння, приймаючи протилежні ордери. Вони можуть просто продавати разом із іншими. «Асиметрія інформації перешкоджає деяким трейдерам брати участь», — попереджає Бреннермайер, — «і може призвести до повного руйнування ринку».
Досить жахливо.
На щастя, у Бреннера є рішення: регулятори повинні створити ринковий сегмент, де дозволено торгівлю лише людьми.
Я можу лише сподіватися, що це місце виглядає як торгова зала, де я раніше працював: трейдери гучно оголошують ціни. Продавці кричать замовлення. Телефони не зупиняються. Клавіатури стукають. Ладоні змочені потом.
Це справді натхненна сцена.
Але, можливо, не варто це піднімати, оскільки звичайний, AI-керований ринок все ще буде обробляти більшість обсягів торгів.
Бреннермайер також це визнає: «У звичайний період цей повільний ринок може не мати багато активності».
Але, як і той катастрофічний резервний торгівельний зал, який мій попередній роботодавець витрачав великі кошти на підтримку, це саме по собі є цінною страховкою.
«Неймовірні блоки виступають у ролі резервного варіанту,» — сказав Бреннермайер.
Потім, якщо ринок падає без очевидної причини, регулятори можуть «тимчасово відкрити кордони між двома секторами, щоб ключові дії були перенесені на той сектор, який все ще функціонує».
Це людський блок. Замовлення обробляються людьми. Використовуються комп’ютери з 90-х років минулого століття.
Швидкість обробки замовлень не буде такою, як зараз, із розрахунком у наносекундах. Але принаймні ми зможемо зрозуміти, що відбувається.
«Її основна логіка полягає в тому, щоб жертвувати ефективністю в звичайний період, щоб запобігти ланцюговій реакції під час кризи», — пояснив Бреннермайер.
Він вважає, що нам слід як можно швидше почати так торгувати, щоб не забути, як це робити: «Ринок, який керується людьми, зберігає життєздатність торгівельних навичок; без нього, із зростанням залежності від ШІ, цей резервний варіант поступово зменшуватиметься».
Як GPS змусив нас забути, як читати карти, так і AI-агенти можуть змусити нас забути, як торгувати.
(Я вважаю, що новий ринковий розділ також повинен мати дрес-код, щоб ми не забули, як зав’язувати галстук або чистити взуття.)
Хоча «тільки для людських угод» звучить фантазійно, це не без аналогів.
Та сама логіка пояснює, чому уряди країн постійно заохочують використання готівки. Хоча готівка стала менш зручною, вона надає важливий резервний варіант у випадку, коли кібератаки паралізують інтернет-платіжні системи, на які ми сильно полагодилися.
Бреннермайер підсумував: «Наша поточна фінансова система не була створена для світу, де існують AI-агенти з асиметричними здібностями до розуміння».
У тому світі (який зараз здається неминучим), ринковий сегмент, де люди торгуватимуть так, як у 1999 році, буде цінним резервним варіантом.
Я ще пам’ятаю, як це робити.
(Але теж не надовго.)
Байрон Джіліям