Autor: Byron Gilliam (The Breakdown)
Tradução: Deep潮 TechFlow
Leitura da Shenchao: Quando agentes de IA começarem a dominar as negociações de mercado, os investidores humanos podem nunca mais compreender a lógica por trás dos sinais de preços. O economista de Princeton Brunnermeier propôs uma ideia que parece um retrocesso, mas que pode ser salva-vidas: manter uma área de negociação exclusivamente para humanos, como um sistema de backup de emergência para todo o sistema financeiro. Isso serve como um lembrete sobre confiança e vulnerabilidade para todos aqueles que dependem da precificação de mercado.
Uma vez por ano, eu e alguns colegas partimos do banco de investimento onde trabalhava naquele ano, da brilhante torre de escritórios da Canary Wharf, em direção a uma terra selvagem desconhecida no sul de Londres.
Quando chegamos lá, só esperávamos não ser assaltados no caminho e chegar com segurança a um prédio discreto, cuja porta nossa cartão de funcionário conseguia abrir. Pegamos um elevador sem identificação até o segundo andar, pois alguém nos dissera que era lá.
Ao abrir a porta rangeante, deparou-se diretamente com uma sala de negociação, quase uma réplica da sala de negociação de Canary Wharf.
Mas aqui é escuro e sem janelas. O computador é pelo menos de dez anos atrás: um monitor pesado com gabinete bege, com um corpo espesso atrás e ainda com slots para CD-ROM e disquete no gabinete.
Vamos verificar se o sistema de negociação moderno pode funcionar nesses equipamentos antigos.
É incrível que eles realmente funcionavam. Podíamos executar negócios e registrar posições, como na Canary Wharf. A velocidade era lenta, pois aqueles monitores quadrados só podiam rodar um programa de cada vez. Mas funcionavam.
Tudo normal.
Este é o nosso “salão de negociação de backup de desastre”, mantido pela equipe de TI ao longo do ano. Os faxineiros também vêm frequentemente, mas, além de tirar a poeira, provavelmente não têm mais nada para fazer, pois ninguém jamais usou este local.
O banco certamente gastou muito dinheiro com isso. Mas é um seguro importante, não apenas para o banco.
Em caso de emergência (terremoto, ataque cibernético, invasão de Godzilla), cada banco de investimento em Londres tem um salão de negociação de reserva para recorrer. Independentemente do que aconteça, o mercado deve continuar funcionando.
O mercado de hoje talvez também precise de um seguro semelhante, apenas em uma escala muito maior.
O economista Markus K. Brunnermeier argumenta que, para lidar com uma emergência de IA, devemos preparar uma opção de emergência para todo o sistema financeiro: um mercado que funcione pelo menos tão bem quanto há dez anos.
Negociar como em 1999
Bill Gates acredita que os formuladores de políticas devem reservar parte das atividades econômicas para os seres humanos: “Acredito que, com o avanço da IA e dos robôs,” ele escreveu recentemente, “vamos reservar certas tarefas exclusivamente para os humanos.”
Ele se refere a coisas centradas no ser humano, como cuidados com idosos, criação de filhos e ensino. Talvez também inclua medicina (mas apenas para transmitir más notícias).
Mas Brenner-Meyer acredita que os traders também devem ser incluídos nesta lista.
Em "Inteligência Artificial e o Novo Mundo Financeiro", este economista de Princeton alerta que os mercados financeiros se tornarão cada vez mais incompreensíveis para os humanos, pois as decisões de negociação estão sendo cada vez mais tomadas por IA.
Mas a IA ainda consegue nos entender. “Agentes de IA podem aprender como os humanos pensam e reagem,” ele escreveu, “enquanto os humanos podem não conseguir compreender ou prever com confiabilidade como esses agentes agirão.”
Esse "entendimento assimétrico" se tornará um problema.
Em seu nível mais básico, Brenner-Meyer alerta que a assimetria de compreensão entre humanos e IA pode enfraquecer a função hayekiana dos mercados: “Os sinais de preço são o mecanismo que orienta o funcionamento da economia descentralizada”, explicou ele. Mas, se não compreendemos o que está impulsionando os preços, não sabemos quais sinais eles estão transmitindo.
Sinal mal interpretado; podemos levar a economia ao abismo.
A confiança também pode apresentar problemas.
Quando agentes de IA negociarem livremente no mercado, colusão, manipulação e negociações maliciosas tornar-se-ão imperceptíveis para os humanos. “Sob compreensão assimétrica,” escreve Brennermeier, “os objetivos dos agentes de IA não podem ser plenamente descritos por categorias humanas nem verificados externamente, tornando o desalinhamento de objetivos imperceptível.”
Se não conseguirmos perceber os desalinhamentos de mercado, assumiremos simplesmente que eles já estão desalinhados. Se assumirmos que estão desalinhados, não ousaremos investir. Se não investirmos, não construiremos nada.
This issue may surge during a market crash.
Se os investidores humanos não conseguirem entender a causa do colapso, eles não estarão dispostos a suavizar a queda assumindo a outra posição. Eles podem simplesmente seguir vendendo. “Informações assimétricas impedirão alguns traders de participar,” alertou Brennermeier, “e podem levar ao colapso total do mercado.”
Muito assustador.
Felizmente, Brennermeier também tem uma solução: os reguladores devem criar um segmento de mercado que permita apenas transações humanas.
Só posso esperar que aquele lugar pareça o piso de negociação onde já trabalhei: corretores gritando seus preços. Vendedores berando ordens. Telefones tocando sem parar. Teclados clicando rapidamente. Palmas suadas.
Essa é realmente uma cena nostálgica.
No entanto, pode não haver muito o que comemorar, pois o mercado convencional, liderado por IA, ainda processará a maior parte do volume de negociação.
Brenner-Meyer também reconhece isso: "Em tempos normais, este mercado lento pode não ter muita atividade."
Mas, assim como o grande gasto do meu antigo empregador para manter aquele salão de negociação de backup de desastre, isso em si é um seguro valioso.
“O setor não de IA atua como plano de backup,” disse Brennermeier.
Em seguida, se o mercado entrar em colapso sem uma razão aparente, os reguladores podem "temporariamente abrir a fronteira entre os dois setores, permitindo que atividades críticas sejam transferidas para o setor que ainda está funcionando".
Essa é a seção humana. Os pedidos são processados por pessoas. Usam computadores da década de 1990.
O tempo de processamento de ordens não será calculado em nanosegundos como agora. Mas pelo menos conseguimos entender o que está acontecendo.
"Sua lógica subjacente é sacrificar eficiência durante períodos normais para impedir reações em cadeia durante crises," explicou Brennermeier.
Ele acredita que devemos começar a negociar assim o mais rápido possível, para não esquecer como fazer: “Um mercado operado por humanos mantém a vitalidade das habilidades de negociação; sem ele, à medida que a dependência da IA aumenta, esse plano de contingência tenderá a se enfraquecer.”
Assim como o GPS nos fez esquecer como ler mapas, os agentes de IA podem nos fazer esquecer como fazer negociações.
(Acho que o novo segmento de mercado também deveria ter um código de vestimenta, para não esquecermos como amarrar gravatas ou limpar sapatos.)
Embora "apenas para negociação humana" pareça fantasioso, não é sem precedentes.
A mesma lógica explica por que os governos de diversos países têm incentivado continuamente o uso de dinheiro físico. Embora o dinheiro em espécie tenha se tornado menos conveniente, ele oferece um importante plano de contingência caso ataques cibernéticos desativem os sistemas de pagamento online nos quais confiamos fortemente.
Brennermeier concluiu: "Nosso sistema financeiro atual não foi criado para um mundo com agentes de IA com capacidades de compreensão assimétrica."
Nesse mundo (que agora parece inevitável), um segmento de mercado que permita às pessoas negociarem como em 1999, será uma opção de backup valiosa.
Ainda me lembro como fazer.
(também não consegue lembrar por muito tempo.)
Byron Gilliam