Autor: Byron Gilliam (The Breakdown)
Compilado por Deep潮 TechFlow
Guía de Shenchao: Cuando los agentes de IA comiencen a dominar las operaciones del mercado, los inversores humanos podrían ya nunca comprender la lógica detrás de las señales de precios. El economista de Princeton Brunnermeier propone una afirmación que parece un retroceso pero que podría salvar vidas: mantener un área de negociación exclusiva para humanos, como respaldo de emergencia para todo el sistema financiero. Esto sirve como un recordatorio sobre la confianza y la vulnerabilidad para cada persona que depende de la fijación de precios en el mercado.
Una vez al año, yo y algunos colegas partimos desde el banco de inversión donde trabajé ese año, desde los brillantes rascacielos de Canary Wharf, hasta un territorio desconocido en el sur de Londres.
Al llegar, solo esperábamos no ser asaltados en el camino y llegar con éxito a un edificio discreto, cuya puerta nuestra tarjeta de empleado pudo abrir. Tomamos un ascensor sin identificación hasta el segundo piso, porque alguien nos dijo que allí era.
Al abrirse la puerta chirriante, se encontró directamente con el salón de operaciones, casi una réplica exacta del salón de operaciones de Canary Wharf.
Pero aquí es oscuro y sin ventanas. La computadora tiene al menos diez años: un monitor de carcasa beige voluminoso, con una unidad principal gruesa detrás, y aún conserva ranuras para CD-ROM y disqueteras.
Vamos a verificar si el sistema de trading moderno puede funcionar en este equipo antiguo.
Lo increíble es que realmente funcionan. Podíamos realizar operaciones y registrar posiciones como en Canary Wharf. Era lento, porque esas pantallas cuadradas solo podían ejecutar un programa a la vez. Pero sí funcionaban.
Todo está bien.
Este es el "salón de operaciones de respaldo de emergencia" de nuestra empresa, mantenido por el departamento de TI durante todo el año. También vienen limpiadores con frecuencia, pero aparte de quitar el polvo, probablemente no tienen nada más que hacer, ya que nadie ha usado nunca este lugar.
El banco seguramente gastó mucho dinero en esto. Pero es un seguro importante, no solo para el banco.
En caso de emergencia (terremoto, ataque cibernético, invasión de Godzilla), cada banco de inversión en Londres tiene un salón de operaciones de respaldo al que recurrir. Sea lo que sea lo que ocurra, el mercado debe seguir funcionando.
Hoy, el mercado tal vez también necesite un seguro similar, pero de una escala mucho mayor.
El economista Markus K. Brunnermeier cree que, para hacer frente a una emergencia de IA, deberíamos preparar una opción de emergencia para todo el sistema financiero: un mercado que funcione al menos tan bien como hace diez años.
Operar como en 1999
Bill Gates cree que los formuladores de políticas deberían reservar parte de la actividad económica para los humanos: “Creo que, con el avance de la IA y los robots,” escribió recientemente, “reservaremos ciertas tareas exclusivamente para que las realicen los humanos.”
Se refiere a cosas centradas en las personas, como el cuidado de ancianos, la crianza de hijos y la enseñanza. Quizás también incluye la atención médica (pero solo para transmitir malas noticias).
Pero Brenner-Meyer cree que los operadores también deberían incluirse en esta lista.
En "La inteligencia artificial y el nuevo mundo financiero", este economista de Princeton advierte que los mercados financieros se volverán cada vez más incomprensibles para los humanos, ya que las decisiones de negociación están siendo cada vez más tomadas por IA.
Pero la IA aún puede comprendernos. "Los agentes de IA pueden aprender cómo piensan y reaccionan los humanos", escribió él, "mientras que los humanos podrían no comprender ni predecir de manera confiable cómo actuarán estos agentes."
Esta "comprensión asimétrica" se convertirá en un problema.
En el nivel más básico, Brenner-Meyer advierte que la asimetría de comprensión entre humanos e IA podría debilitar la función hayekiana de los mercados: “Las señales de precios son el mecanismo que guía el funcionamiento de una economía descentralizada”, explicó. Pero si no entendemos qué está impulsando los precios, no sabemos qué señales están transmitiendo.
Señal malinterpretada; podríamos llevar a la economía al borde del abismo.
La confianza también puede tener problemas.
Cuando los agentes de IA operen libremente en el mercado, la colusión, la manipulación y las operaciones maliciosas se volverán imperceptibles para los humanos. “Bajo una comprensión asimétrica,” escribe Brennermeier, “los objetivos de los agentes de IA no pueden describirse completamente con categorías humanas ni verificarse desde el exterior, por lo que los desajustes de objetivos se volverán imperceptibles.”
Si no somos capaces de detectar los desalineamientos en el mercado, asumiremos simplemente que están desalineados. Si asumimos que están desalineados, no nos atreveremos a invertir. Si no invertimos, no construiremos nada.
This issue could surge during a market crash.
Si los inversores humanos no comprenden la causa del colapso, no estarán dispuestos a suavizar la caída tomando posiciones contrarias. Es probable que simplemente sigan vendiendo. “La asimetría de información impedirá que algunos operadores participen,” advirtió Brennermeier, “y podría provocar un colapso total del mercado.”
Es bastante aterrador.
Afortunadamente, Brennermeier también tiene una solución: los reguladores deberían crear un segmento del mercado que solo permita operaciones humanas.
Solo puedo esperar que ese lugar se parezca al piso de negociación donde trabajé antes: operadores gritando sus cotizaciones, vendedores chillando órdenes, teléfonos sonando sin parar, teclados haciendo clics, y palmas de las manos sudadas.
Esa es realmente una escena nostálgica.
Pero probablemente no haya mucho de qué celebrar, ya que el mercado convencional, liderado por IA, seguirá gestionando la mayor parte del volumen de operaciones.
Brenner-Meyer también lo reconoce: "En tiempos normales, este mercado lento probablemente no tendría mucha actividad."
Pero, al igual que el centro de transacciones de respaldo de emergencia que mi antiguo empleador gastó una gran cantidad de dinero en mantener, esto en sí mismo es un seguro valioso.
“El sector no de IA actúa como plan de respaldo,” dijo Brennermeier.
Luego, si el mercado se desploma sin una razón aparente, los reguladores pueden "abrir temporalmente la frontera entre ambos sectores para permitir que las actividades clave se trasladen al sector que aún está funcionando".
Ese es el sector humano. Los pedidos son procesados por personas. Se utilizan computadoras de los años 90.
La velocidad de procesamiento de órdenes no se calculará en nanosegundos como ahora. Pero al menos podemos entender qué está sucediendo.
“Su lógica subyacente es sacrificar la eficiencia en tiempos normales para evitar reacciones en cadena durante crisis,” explicó Brennermeier.
Él cree que deberíamos comenzar a operar de esta manera lo antes posible, para no olvidar cómo hacerlo: “Un mercado operado por humanos mantiene viva la habilidad de operar; sin él, a medida que aumenta la dependencia de la IA, este plan de respaldo se irá debilitando.”
Al igual que el GPS nos hizo olvidar cómo leer mapas, los agentes de IA podrían hacernos olvidar cómo realizar operaciones.
(Pienso que el nuevo mercado también debería tener un código de vestimenta, para no olvidar cómo ponerse una corbata o limpiar los zapatos.)
Aunque "solo para humanos" suena extravagante, no carece de precedentes.
La misma lógica explica por qué los gobiernos de todo el mundo han estado fomentando el uso de efectivo físico. Aunque el efectivo se ha vuelto menos conveniente, ofrece una importante solución de respaldo en caso de que un ataque cibernético deshabilite los sistemas de pago en línea en los que confiamos en gran medida.
Brennermeier concluyó: "Nuestro sistema financiero actual no fue diseñado para un mundo con agentes de IA que poseen capacidades de comprensión asimétricas."
En ese mundo (que ahora parece inevitable), un mercado donde las personas negocian como en 1999, sería un plan de respaldo valioso.
Aún recuerdo cómo hacerlo.
(también no se puede recordar por mucho tiempo.)
Byron Gilliam